아마존은 SageMaker AI의 추론을 위한 컨테이너 이미지 캐싱 기능을 새롭게 발표했습니다. 이번 기능은 모델 확장 시 성능을 크게 향상시키는 주요 발전으로, 생성 AI 모델의 엔드 투 엔드 지연 시간을 최대 2배까지 단축시킬 수 있습니다. 이는 사용자가 AI 모델을 더 빠르게 확장할 수 있도록 도와주며, AI 기술의 활용도를 높이는 데 기여할 것으로 기대됩니다.

<AWS Blog 뉴스 본문 전체읽기>