최근 대규모 추론 언어 모델(LRLM)인 DeepSeek-R1 및 GPT-O1과 같은 모델은 추론 중 CoT 생성 길이를 연장하여 복잡한 문제 해결 능력을 크게 향상시켰다. 이러한 모델들은 테스트 시 스케일링 법칙을 활용하여 더 풍부하고 다양한 추론 경로를 가능하게 한다. 그러나 지나치게 긴 CoT 시퀀스 생성은 계산 효율성과 대기 시간이 증가하는 문제를 야기한다. 이러한 문제를 해결하기 위해 중국의 AI 논문은 훈련 없이 동적 초기 종료를 달성할 수 있는 DEER라는 새로운 접근 방식을 제안했다. DEER는 효율적인 추론을 위해 CoT 생성을 최적화하고, 컴퓨팅 리소스 소비를 줄이며, 지연 시간을 최소화하는 방법을 제시한다. 이 논문은 대규모 추론 언어 모델이 효율적으로 작동하면서도 높은 성능을 유지할 수 있는 새로운 방향을 제시한다.

<Mark Tech Post 뉴스 본문 전체읽기>