언어 모델의 매개변수 수와 추론 복잡성이 증가함에 따라 전통적인 중앙 집중식 훈련 파이프라인은 점점 제약을 받게 된다. 고성능 모델 훈련은 종종 빠른 상호 연결이 되어 있는 컴퓨팅 클러스터에 의존하는데, 이는 비용이 많이 들며 가용성이 제한되며 확장성 병목 현상을 유발할 수 있다. 더구나 중앙 집중식 아키텍처는 광범위한 협업과 실험의 가능성을 제한한다. 이에 INTELLECT-2는 분산 비동기 강화 학습을 통해 훈련된 32B의 추론 모델로, 이러한 제약을 극복하고 협업과 실험의 가능성을 확대한다.

<Mark Tech Post 뉴스 본문 전체읽기>