최근 몇 년 동안, CLIP와 같은 대조적 언어-이미지 모델들이 시각 표현 학습에서 표준 선택으로 자리매김했다. 특히, VQA(시각 질문 응답) 및 문서 이해와 같은 다중 모달 응용 프로그램에서는 언어 감독을 통해 의미론적 근거를 통합하기 위해 대규모 이미지-텍스트 쌍을 활용한다. 그러나 이러한 모델들은 텍스트에 의존하므로 개념적 및 실용적인 제약이 발생한다. Meta AI는 이러한 제약을 극복하기 위해 Web-SSL(Web-Supervised Self-Learning)을 발표했다. Web-SSL은 확장 가능하고 언어에 구애받지 않는 시각 표현 학습을 위한 새로운 방법이다. 이 모델은 웹 이미지를 활용하여 시각적 근거를 학습하고, 기존의 언어 의존적 모델보다 효율적인 결과를 제공한다. 또한, Web-SSL은 개방적이며 사용하기 쉬운 특징을 갖추고 있어 다양한 시각적 작업에 대한 새로운 가능성을 제시하고 있다.

<Mark Tech Post 뉴스 본문 전체읽기>