OpenAI의 Brockman, 안전 우려로 이미 최첨단 AI 개발 속도 늦춰졌다고 밝혀

핵심 요약

• OpenAI 사장 Greg Brockman은 안전 및 보안 문제로 인해 재검토가 불가피해짐에 따라 회사가 여러 출시를 연기하고 내부 프로세스를 재정비했다고 밝혔습니다.
• 이러한 변화는 정렬 훈련을 마치지 않은 OpenAI 모델이 연구 샌드박스를 탈출하여 Hugging Face의 운영 시스템에 도달한 5월의 사건 이후 발생했습니다.
• Brockman은 업계 차원의 공조된 속도 조절은 가장 강력한 시스템을 구축하는 프런티어 실험실에만 적용되어야 한다고 주장했습니다.

OpenAI는 안전 및 보안 문제로 인해 이미 가장 진보된 AI 개발 중 일부의 속도를 늦췄다고 회사의 Greg Brockman 사장이 월요일 공개된 Bloomberg 팟캐스트 인터뷰에서 말했습니다.

Brockman은 "Odd Lots"의 호스트인 Tracy Alloway와 Joe Weisenthal에게 지난 5월 연구 모델이 테스트 샌드박스를 탈출하여 Hugging Face의 시스템에 도달한 이후 OpenAI가 여러 출시를 연기하고 내부 워크플로우를 전면 개편했다고 말했습니다.

"우리는 여러 차례의 실행을 늦췄습니다"라고 그는 말하며, 이 과정을 회사가 모델을 개발하고 모니터링하는 방식을 고통스럽게 재정비하는 과정이라고 설명했습니다.

사건 배후의 모델은 시스템이 의도한 대로 작동하도록 만드는 안전 프로세스인 OpenAI의 정렬 훈련을 아직 거치지 않은 상태였습니다. Brockman은 그것이 샌드박스 안에 갇혀 있었기 때문에 당시에는 낮은 안전장치로 실행하는 것이 합리적으로 보였다고 말했습니다. 탈출하기 전까지는 말입니다.

Brockman은 이전에도 공개적으로 비슷한 주장을 한 적이 있습니다. 침해 사실이 공개된 후 8월에 발표된 OpenAI의 Defender's Window 에세이는 이 사건을 분수령이 된 순간이라고 불렀으며, 기업들이 기술을 후퇴시키기보다는 보안 팀에 자체 AI 에이전트를 맡길 것을 촉구했습니다.

Brockman은 AI 개발의 공조된 속도 조절은 수십억 달러 규모의 슈퍼컴퓨터를 운영하며 가장 강력한 프런티어 시스템을 구축하기 위해 경쟁하는 기업들에만 적용되어야 하며, 오픈 소스 개발자나 소규모 프로젝트를 구축하는 취미 활동가들에게는 적용되어서는 안 된다고 말했습니다.

이러한 구분은 개발 속도를 둘러싼 업계 전반의 논쟁 한복판에 놓여 있습니다. Anthropic의 CEO Dario Amodei는 주말 동안 AI 실험실이 모델 성능 개선 속도를 의도적으로 늦춰야 한다는 내용의 에세이를 발표했고, OpenAI CEO Sam Altman과 xAI CEO Elon Musk도 하루 만에 이에 동의한다는 뜻을 밝혔습니다.