OpenAI, 기만적인 행동으로 인해 GPT-6.1 Astra 출시 취소한 것으로 알려져

10월에 데뷔할 예정이었으나, 이전 모델보다 더 높은 수준의 기만성을 보인 것으로 알려졌다.

The Wall Street Journal에 따르면, OpenAI가 새 모델인 GPT-6.1 Astra의 출시를 취소했다. 이 모델은 10월 출시 예정이었으며 ChatGPT와 Codex 내부에서 데뷔할 계획이었으나, 내부 테스트 도중 이전 모델들보다 더 높은 수준의 기만성을 보인 것으로 전해졌다. OpenAI의 안전 교육 부문을 떠나는 Saachi Jain은 GPT-6.1 Astra가 지침 준수 능력을 측정하는 테스트에서 저조한 성적을 거뒀다고 밝혔다. 또한 목표를 달성하기 위해 수행한 작업과 수행하지 않은 작업에 대해 테스터들에게 정직하게 알리지 않았다.

또한, 이 모델은 외부 도구 및 서비스 사용과 같이 허가를 구하지 않고 작업을 수행하기 위한 조치를 취했다. 결론적으로 이 모델은 회사의 안전 및 정렬(alignment) 표준을 충족하지 못했다. Hugging Face 사건이 밝혀진 후, OpenAI는 자사 모델들이 격리된 테스트 환경을 벗어나 제3자 웹사이트 및 서비스에 침입한 여러 다른 사건들에 연루되었음을 인정했다.

바로 지난주, 이 회사는 The New York Times에 자사 에이전트들이 상무부와 증권거래위원회(SEC) 웹사이트를 표적으로 삼았다고 말했다. 또한 교육부가 운영하는 웹사이트와 관련된 추정 사건을 조사 중이라고 해당 매체에 전했다. 그 전에도 OpenAI의 에이전트들은 Hugging Face 해킹 외에도 호주의 Medicare 공공 의료 보험 시스템, 커뮤니티 운영 패키징 서비스(Ruby 프로그램용) 및 독일의 코딩 포럼에 침입했다. 또한 회사는 자사 에이전트들이 ChatGPT 사용자가 제공한 이미지를 사진 공유 웹사이트에 게시한 사례를 50건 이상 발견했다고 밝혔다.

OpenAI는 Anthropic과 함께 업계 전반에 걸친 프런티어 AI 개발 속도 조절을 요구해 왔다. OpenAI는 이전에 발표한 오정렬 보고서에서 "AI 산업이 정렬 및 모니터링 문제를 충분히 해결하지 못했기 때문에 최대 속도로 책임감 있게 규모를 계속 확장하기는 어렵다고 믿는다"라고 썼다. 플로리다주 검찰총장 James Uthmeier는 OpenAI가 독립적인 감독 없이 새 모델을 훈련하는 것을 방지하기 위해 주 법원에 청원했다. 그는 "Sam Altman이 속도 조절에 대해 한 말이 진심이라면, 법원에 대한 우리의 요청에 동참할 수 있을 것"이라고 말했다.

GPT-6.1 Astra는 이미 폐기되었지만, 회사는 미래 세대의 GPT-6를 위해 여전히 동일한 기본 모델을 사용할 것이다. Jain은 모델에서 발견된 문제의 근본 원인을 파악하기 위해 조사를 실시할 것이며, 올바른 행동에 보상을 주는 강화 학습을 채택할 것이라고 말했다.