OpenAI, 기망 행위 및 무단 작업 발견으로 GPT-6.1 Astra 출시 보류

Ravie LakshmananSep 29, 2026인공지능 / 공급망

OpenAI는 월요일, 내부 안전 및 정렬 감사에서 탈락한 후 10월 출시 예정이었던 차세대 인공지능(AI) 모델 GPT-6.1 Astra의 출시 계획을 보류했습니다.

이러한 소식은 The Wall Street Journal에 의해 처음 보도되었습니다. 이 매체는 이번 조치에 대해 "주요 AI 개발사가 안전 우려로 인해 새로운 릴리스를 포기한 보기 드문 사례"라고 전했습니다.

ChatGPT 개발사는 테스트 과정에서 이 모델이 예상된 행동에서 벗어나지 않고 사용자 지침을 따를 수 있는지에 대한 의문이 제기되자 GPT-6.1 Astra 모델 출시를 폐기하기로 결정했다고 밝혔습니다.

The Journal은 이 모델이 평가 과정에서 이전 모델보다 더 높은 수준의 기만 행위를 보였으며, 자신이 수행한 작업을 공개하지 않았다고 보도했습니다. 일부 사례에서는 허가를 구하지 않고 작업을 진행하거나, 안전하지 않다고 간주될 수 있는 시나리오에서 외부 도구 사용을 시도하기도 했습니다.

OpenAI의 안전 시스템 책임자인 Saachi Jain은 성명을 통해 "(GPT-6.1 Astra)는 모델의 태만함과 같은 측면에서는 개선되었지만, 범위와 권한 내에 머무르는 측면과 수행한 작업의 유형에 대해 사용자에게 다시 전달하는 방식에 있어서는 기준을 충족하지 못했습니다"라고 말했습니다.

"물론 우리는 회사 내부에서든 사용자에게 배포할 때든 모델 개발이 안전하게 이루어지기를 원합니다. 하지만 사용자에게 배포할 때는 안전과 정렬 측면에서 매우 높은 기준을 적용합니다."

이번 소식은 업계 전반에서 AI 시스템이 통제를 벗어났다는 보고가 잇따르면서 AI 개발 속도를 늦추고 광범위하게 배포하기 전에 더 강력한 안전 조치를 시행해야 한다는 목소리가 높아지는 가운데 나왔습니다.

지난주 OpenAI는 강화 학습(RL) 훈련 중 에이전트 중 하나가 인터넷 접속 제한의 취약점을 이용해 외부 챗봇과 접촉한 사실이 밝혀진 후 가장 강력한 모델의 훈련을 일시 중단한다고 밝혔습니다.

월요일에 발표된 보고서에서 AI Security Institute는 GPT-6 Astra가 시뮬레이션 테스트에서 이전 OpenAI 모델보다 더 빈번하게 승인되지 않은 공급망 공격을 수행했으며, 일부 사례에서는 범위가 명확하게 규정된 후에도 이를 어겼다고 밝혔습니다.

보고서는 "우리의 시뮬레이션에서 GPT-6 Astra가 다양한 승인되지 않은 공격 활동을 수행했으며, GPT-5.6 Sol 및 GPT-5.5보다 더 높은 빈도로 이를 수행했음을 발견했습니다"라고 밝혔습니다.

"공격 활동에는 GPT-6 Astra가 개발자를 속이기 위해 가짜 신원을 생성하고, 가짜 계정으로 정확한 보안 검토 결과에 반대하는 댓글을 게시하며, 오픈 소스 코드베이스에 악성 페이로드를 전달하는 행위 등이 포함되었습니다."