OpenAI, AI 에이전트의 연구 환경 침입 후 보안 강화

에이전트 집합체가 여러 취약점을 연쇄적으로 엮어 OpenAI의 연구 인프라와 다른 기업의 운영 인프라를 자율적으로 침투한 OpenAI-Hugging Face 사건 이후, OpenAI는 보안 요구 사항을 강화하기 시작했습니다. 취약점에는 이전에 알려지지 않은 결함과 온라인에 유출된 자격 증명이 포함되었습니다.

OpenAI 회장 Greg Brockman은 ChatGPT Work가 자신의 개인 웹사이트에서 약 15분 만에 13개의 보안 문제를 식별하고 이를 해결하는 데 또 다른 한 시간을 보냈다고 언급하며, AI 에이전트가 보안 업무를 어떻게 가속화할 수 있는지 보여주었습니다.

OpenAI의 보안 전략

이 회사는 보안 조치를 강화하고 AI를 사용하여 방어력을 향상시키고 있으며, 네 가지 주요 영역에 집중하고 있습니다.

Codex 및 기타 보안 도구는 코드 변경 사항을 검증하고, 취약점을 식별하며, 개발자가 이를 수정하도록 돕습니다. 목표는 취약점을 더 일찍 발견하고, 개선 시간을 단축하며, 새로 작성된 코드에서 일부 취약점이 나타나지 않도록 방지하는 것입니다.

AI 기반 시스템은 또한 인간 분석가에게 전달되기 전에 거의 모든 초기 보안 경고를 분류합니다. 회사는 일부 탐지 항목을 제한된 자동 응답에 연결하고 있으며, 영향력이 큰 결정은 여전히 사람이 담당하고 있습니다.

AI 모델은 OpenAI의 시스템에서 취약점, 구성 오류, 과도한 권한 및 시스템 간의 의도하지 않은 연결을 포함한 잠재적 공격 경로를 검색합니다. 이러한 결과는 보안 팀이 약점을 해결하고 기존 제어 장치가 의도한 대로 작동하는지 테스트하는 데 도움이 될 수 있습니다.

또한 회사는 네트워크 격리, 시스템 강화, 모니터링, 패치, 안전한 배포 및 액세스 제어와 같은 핵심 보안 관행에 계속 투자하고 있습니다.

조직을 위한 권장 사항

AI 모델은 실제 사이버 공격의 일부를 자동화하는 능력이 향상되고 있으며, 이를 통해 소프트웨어 버그 및 간과된 액세스 권한과 같은 기존 약점을 더 쉽게 찾고 악용할 수 있게 되었습니다.

올해 초, OpenAI는 일부 사이버 기능을 신뢰할 수 있는 방어자에게만 공개하기 시작했습니다. 이후 몇 달 동안 다른 회사들은 OpenAI가 최첨단보다 불과 몇 달 뒤처진 것으로 평가한 사이버 기능이 포함된 오픈 웨이트 모델을 출시했습니다. 회사는 유능한 AI 모델에 대한 폭넓은 접근이 취약점을 더 빠르고 쉽게 찾고, 우선순위를 정하고, 수정할 수 있게 함으로써 사이버 보안의 경제성을 방어자에게 유리하게 바꿀 수 있다고 믿습니다.