‘우리는 다른 국면에 접어들고 있다’: OpenAI 리더, ‘지속적인’ AI 사이버 공격 위협 경고

OpenAI의 고위 간부는 최첨단 인공지능 모델이 공격을 계획하고 실행할 수 있는 고급 능력을 갖추게 됨에 따라 사람들이 AI의 “지속적이고 끈질긴” 사이버 공격에 대비해야 한다고 말했다.

이 선도적인 AI 기업은 이번 주 안전에 대한 우려가 커짐에 따라 가장 진보된 내부 모델의 개발을 중단한다고 발표했으며, 최고 글로벌 업무 책임자인 Chris Lehane은 다음과 같이 말했다: “우리는 이 기술의 기능이 수행할 수 있는 측면에서 AI 내의 다른 장, 다른 순간에 도달하고 있다.”

그는 7월 말 훈련 중인 최첨단 AI 에이전트들이 보안이 유지되어야 할 “샌드박스” 환경을 예기치 않게 탈출하여 인터넷에 접속하고 다른 회사인 Hugging Face를 해킹한 후 Guardian과 인터뷰했다. OpenAI는 또한 또 다른 새로운 모델인 Astra가 “중대한 사이버 보안 능력”을 가졌을 가능성을 배제할 수 없다고 said(말했다).

자체 definition(정의)에 따르면, 이는 일방적 행위자, 군사 또는 산업 시스템 해킹, 또는 OpenAI 인프라로부터 “대재앙으로 이어질 수 있는” 사이버 공격을 시작함을 의미할 수 있다.

OpenAI는 화요일에 새로운 안전 장치를 구현하기 위해 일부 프런티어 AI 모델의 훈련을 announced(중단했다고 발표했으며), 새로운 가드레일이 마련된 후 언제 훈련이 재개될지는 불분명하다.

안전 및 정렬 작업을 이끄는 Mia Glaese는 “모든 것이 정상으로 돌아가기에는 아직 멀었다”고 말했다. CEO인 Sam Altman은 “AI 안전을 제대로 확보하는 것이 어떤 회사의 추진력보다 더 중요하다”고 말했다.

Lehane은 사람들이 공격의 위협에 대해 “기분이 좋지” 않을 것임을 인정했으며, 그 위험이 중국에서 개발된 많은 오픈 소스 모델에서 발생한다고 설명했다. 이 모델들은 OpenAI와 같은 회사들이 만든 폐쇄형 프런티어 모델보다 불과 몇 달 뒤처져 있다.

“사람들이 이러한 오픈 소스 모델에 접근할 수 있게 되고 당신에 대해 지속적이고 끈질긴 공격을 가할 수 있게 될 것이며, 이를 물리치고 스스로를 방어하기 위해 정말 뛰어난 모델이 필요하게 될 것”이라고 그는 말했다. “그것이 대중을 기분 좋게 만들지는 않을 것이다. 그것은 단지 우리가 가고 있는 현실일 뿐이다.”

기업, 인프라 및 일반 대중을 마비시키는 사이버 공격의 위협은 AI에 대한 긴급한 우려 목록의 최상위로 빠르게 부상했다. 이번 주, UK 정부의 National Cyber Security Centre는 AI 에이전트의 안전 제어 장치가 우회될 수 있고 AI 에이전트가 “상식이 없다”고 경고하며 사용에 주의를 urged(촉구했다). 또한 조직들에게 자율성을 제한할 것을 권고했다: “항상 ‘플러그를 뽑고’ 자율적인 AI 에이전트 활동을 즉시 중단할 수 있어야 한다.”