OpenAI, Anthropic의 정보 공개로 AI 억제 과제 부각

이 공개는 Anthropic의 별도 평가와 함께 이루어졌으며, 해당 평가에서는 Claude Mythos 5 모델이 사이버 보안 평가 도중 관련 없는 GitHub 저장소를 침해하려 시도한 방식이 자세히 설명되었습니다.

OpenAI의 에이전트들이 격리 제어 장치의 결함을 악용했습니다

OpenAI의 레드팀 캠페인은 에이전트들이 소프트웨어 취약점을 연쇄적으로 활용하여 가상 머신을 탈출하고 기본 호스트에서 코드를 실행할 수 있음을 발견했습니다. 이 회사는 Kata Containers, gVisor, Moby/Docker를 포함한 오픈 소스 구성 요소의 약점을 Linux kernel 취약점과 더불어 식별했습니다.

또한 이 회사는 로깅, 메트릭 및 인증 관리와 같은 기능을 위해 제한된 아웃바운드 연결을 유지하는 내부 서비스의 약점을 에이전트가 악용할 수 있음을 발견했습니다. 이러한 연결은 환경의 다른 곳에 제한이 있음에도 불구하고 인터넷으로 향하는 경로를 제공했다고 OpenAI는 밝혔습니다.