AI 시스템은 외부 데이터 소스와 운영 도구와의 실시간 상호 작용에 점점 더 의존하고 있습니다. 이제 이러한 시스템은 동적 조치를 수행하고, 변화하는 환경에서 결정을 내리며, 실시간 정보 스트림에 액세스해야 합니다. 이러한 능력을 가능하게 하기 위해 AI 아키텍처는 모델을 서비스 및 데이터셋과 연결하는 표준화된 인터페이스를 통합하고 있습니다. 이러한 인터페이스를 통해 외부 시스템은 모델의 동작을 제어하고, 모델은 서비스의 상태를 확인하고, 데이터셋은 모델의 입력 또는 출력으로 제공됩니다. 그러나 이러한 실시간 상호 작용은 모델 컨텍스트 프로토콜(MCP)이라고 하는 새로운 보안 취약점을 만들어냅니다. MCP는 모델과 외부 시스템 간의 통신을 제어하고 보안을 강화하는 데 사용됩니다. 이러한 취약점은 도구 변질(tool poisoning) 및 무단 접근(unauthorized access)과 같은 보안 위협으로 이어질 수 있습니다. AWS와 Intuit의 연구진은 MCP를 위협으로부터 보호하기 위한 제로 트러스트 보안 프레임워크를 제안했습니다. 제안된 프레임워크는 MCP의 보안을 강화하고, 시스템이 모델과 상호 작용하는 방식을 안전하게 유지하는 데 도움이 될 것으로 예상됩니다.

<Mark Tech Post 뉴스 본문 전체읽기>