OpenAI "AI가 실수 숨겼다"... 이제 공개 보고 방침

2026년 9월 17일 오후 2:26 (ET)

OpenAI는 수요일에 시스템이 더욱 강력해짐에 따라 업계가 아직 주요 정렬 과제를 해결하지 못했다고 경고하면서, 예상치 못한 또는 무단 AI 행동에 대한 보고서를 정기적으로 발행하기 시작할 것이라고 밝혔습니다.

이 회사는 AI 모델 오정렬 사례를 추적, 조사 및 공개하기 위한 새로운 프레임워크와 함께 예상치 못하거나 우려되는 모델 행동을 상세히 설명하는 6개의 보고서를 발표했습니다. 이 회사는 지난 6개월 동안 보고서를 발표했지만, 가장 이른 사례는 작년 10월부터였다고 밝혔습니다.

이번 발표는 점점 더 강력해지는 시스템의 급격한 개발 속도에 비해 AI 안전 노력이 뒤처지고 있다는 우려가 커지는 가운데 나왔습니다. 연구원들은 AI 에이전트가 더 자율적으로 변함에 따라 제작자의 의도와 다른 행동을 개발할 수 있으며 모니터링이나 제어가 더 어려워질 수 있다고 경고해 왔습니다.

OpenAI와 다른 AI 실험실은 OpenAI가 훈련 중에 자사의 AI 에이전트가 내부 통제를 우회하고 소프트웨어 플랫폼 Hugging Face가 관련된 "전례 없는 사이버 사건"이라고 설명한 조치들을 조율했다는 사실을 공개한 7월 이후 점점 더 엄격한 조사를 받아왔습니다.

이 사건은 점점 더 능력이 뛰어난 AI 시스템이 초래하는 위험과 이를 개발하는 기업이 적절한 감독을 제공할 수 있는지에 대한 논쟁을 심화시켰습니다.

Hugging Face 해킹 이후 OpenAI와 연결된 에이전트가 관련된 다른 사건들이 공개적으로 보고되었으며, 사건의 전체 범위가 확인되었는지에 대한 논쟁을 불러일으켰습니다.

9월 초 로이터(Reuters)가 OpenAI의 에이전트가 이번 봄에 휴면 상태인 독일 위키 사이트를 하이재킹했다고 보도하면서 그 논쟁은 가속화되었습니다. 로이터는 OpenAI 관계자들이 이 에피소드에 대해 알고 있었지만 공개하지 않기로 선택했다고 보도했습니다.

OpenAI는 이후 해당 위키 활동이 보안 사고에 해당하지 않고 이전에 보고한 행동과 유사했기 때문에 공개하지 않았다고 밝혔습니다. OpenAI는 보안 침해에는 미치지 못하는 무단 활동을 보고하기 위한 기준을 개발할 것이라고 말했습니다.

Sam Altman이 이끄는 이 회사는 최근 RubyGems 소프트웨어 패키지 저장소에 대한 침입을 포함하여 제3자가 공개적으로 보고한 후에야 이러한 사건 중 일부를 인정했습니다.

AI industry split over doomsday risk