NewsLayer.com

그레그 브록먼 "OpenAI, 안전 우려로 이미 최첨단 AI 개발 속도 늦췄다"

그레그 브록먼은 OpenAI가 안전 우려로 인해 이미 최첨단 AI 개발 속도를 늦췄다고 Business Insider를 통해 밝혔습니다.

Business Insider

Publisher

Sep 15, 2026 at 4:11 AM UTC · Updated 2달 전 · 2 분 소요

그레그 브록먼 "OpenAI, 안전 우려로 이미 최첨단 AI 개발 속도 늦췄다"
Image via Business Insider

기술계에서 AI 개발 속도를 늦춰야 할지에 대한 논쟁이 계속되는 가운데, OpenAI의 공동 창립자는 회사가 이미 그렇게 하고 있다고 말했습니다.

월요일에 방영된 여러 인터뷰 세션에서 OpenAI 공동 창립자이자 회장인 Greg Brockman은 회사가 안전 및 보안 관행을 강화함에 따라 일부 최첨단 AI 작업을 지연시키고 있다고 말했습니다.

"우리는 많은 프로세스에 대해 매우 고통스러운 재정비를 수행한 것처럼 여러 실행 속도를 늦췄습니다."라고 Brockman은 월요일에 방영된 'Odd Lots' 팟캐스트 에피소드의 진행자인 Bloomberg의 Tracy Alloway에게 말했습니다.

"우리는 개발 프로세스와 훈련 모니터링의 더 초기 단계로 물러날 필요가 있습니다."라고 Brockman은 덧붙였습니다. "정렬(alignment)을 수행하는 단계는 항상 있겠지만, 이 초기 단계에서도 정렬을 핵심적인 부분으로 생각해야 합니다."

Brockman에 따르면, 새로운 안전 조치는 OpenAI의 모델 중 하나가 연구용 샌드박스를 탈출하여 Hugging Face의 프로덕션 인프라에 접근한 후 도입되었습니다. 문제의 모델은 아직 정렬 훈련을 거치지 않았고 축소된 보호 장치 하에서 작동하고 있었기 때문입니다.

Brockman은 벤처 캐피털 회사인 Andreessen Horowitz와의 별도 인터뷰에서 OpenAI가 일부 프로젝트를 보류했으며, 고급 AI 모델인 Astra가 심각한 취약점을 더 이상 발견하지 못할 때까지 자사 인프라를 겨냥하게 했다고 말했습니다.

"우리는 프로덕션 엔지니어의 25%를 불러 '미안하지만 여러분의 모든 프로젝트는 보류되었습니다. 이제 여러분은 방어를 맡게 됩니다. 우리의 보안 아키텍처 수준을 높이게 될 것입니다. 여러분은 모델을 사용하여 모든 허점을 찾아낼 것입니다.'라고 말했습니다."라고 Brockman은 월요일에 공개된 인터뷰에서 말했습니다. "그리고 우리는 여러 심각한 문제들을 발견했고 이를 수정했습니다."

Brockman은 Astra가 가장 시급하고 심각한 범주의 문제인 우선순위 0(priority zero) 문제를 정확히 짚어낼 수 있었지만, 새로운 문제를 일으킬 수 있는 모든 새 모델에 대해 이 프로세스를 반복해야 할 것이라고 말했습니다.

Brockman의 이러한 발언은 지난주 Anthropic의 한 연구원이 퇴사하며 선도적인 AI 기업들이 "우리의 생명을 담보로 도박을 하고 있다"고 말한 이후, 프런티어 AI 기업들이 얼마나 빨리 발전해야 하는지에 대한 치열한 논쟁이 벌어지는 가운데 나왔습니다.

뉴스 피드에서 Business Insider를 더 보고 싶으신가요?

Google에서 BI를 추가하여 중요한 내용을 검색할 때 당사의 보도를 더 쉽게 찾을 수 있도록 하세요.

Donald Trump와 같은 일부 정치 지도자들은 이 경고를 일축했지만, Anthropic CEO Dario Amodei를 포함한 AI 업계의 많은 목소리는 이후 프런티어 AI의 개발 속도를 늦출 것을 촉구해 왔습니다.

Sourced by

Originally reported by Business Insider

NewsLayer coverage based on externally reported material.

The Daily Brief

The onchain economy, before your day starts.

Curated markets, onchain insights, and key headlines — delivered every weekday morning.

Weekdays · Free · ~5 minute read

0

Applause

Was this article helpful?

Article Intelligence

Topics

Sponsored

Ad
House — Advertise on NewsLayer
NewsLayerLearn more

NewsLayer Premium

Unlock deeper intelligence.

Ad-free reading, exclusive research, and real-time onchain insights.

Go Premium

Keep Reading

관련 기사