최근 언어 모델은 추론 작업을 처리하는 데 상당한 진전을 이루었는데, LIMO와 s1과 같은 소규모 지도 파인튜닝(SFT) 접근법조차도 수학 문제 해결 능력에서 현저한 향상을 보여주고 있습니다. 그러나 이러한 발전에 대한 근본적인 질문이 남아 있습니다. 이러한 모델이 테스트 데이터에 과적합되는 것인지, 아니면 훈련 데이터를 넘어 일반화되는 것인지에 대한 문제입니다. 최근 UC 버클리와 AI2의 연구자들은 이러한 문제에 대한 해결책으로 LLMs의 수학적 추론 능력을 해제하는 파인튜닝 레시피를 발표했습니다. 이 레시피는 LLMs가 어려운 수학 문제를 소량의 데이터로도 해결할 수 있게끔 만들었습니다. 이러한 연구 결과는 인공지능 및 기계 학습 분야에 중요한 영향을 미칠 것으로 전망됩니다.

<Mark Tech Post 뉴스 본문 전체읽기>