OpenAI, AI 위험 감시를 위해 외부 감시 기구 영입

OpenAI는 모든 frontier AI 랩이 모델을 안전하게 훈련, 평가 및 배포할 수 있도록 돕는 효과적인 제3자 평가를 위한 제안된 우선순위와 원칙을 설명하며 이같이 밝혔습니다.

OpenAI는 게시물에서 “우리는 미래의 법률과 민간 거버넌스 이니셔티브 모두를 통해 효과적인 제3자 평가를 위한 독립적인 평가자 지원과 더 명확하고 공유된 국제 표준을 수립하는 데 전념하고 있습니다”라고 말했습니다.

OpenAI의 이러한 제안 발표는 회사가 recursive self-improvement (RSI)를 포함한 frontier AI를 위한 글로벌 기술 표준을 개발하기 위한 국제적 노력을 United States가 주도해야 한다고 밝힌 지 하루 만에 이루어졌습니다.

OpenAI는 Monday (Sept. 21)에 발표된 기사에서 이 제안을 발표하면서, 이러한 완전 자율적인 AI 개발이 인간의 이해 능력을 앞지를 경우 RSI로 인해 인간이 AI 개발에 대한 통제력을 잃게 될 수 있다고 말했습니다. 회사는 이 기술을 진행할지 여부와 방법을 지금 결정해야 한다고 밝혔습니다.

OpenAI의 최신 제안은 Anthropic의 CEO이자 공동 창립자인 Dario Amodei가 주요 AI 기업 내부에 상주하는 독립 평가자, 민주주의 국가 기업 간의 조정, 그리고 최종적으로 China를 포함하는 국제적 합의를 포함하는 AI safety plan을 제안하는 에세이를 발표한 지 약 일주일 후에 나왔습니다.

Friday (Sept. 18), California 주지사 Gavin Newsom은 주 정부가 AI safety 및 보안을 다루는 법률을 보강하고 강화하기 위한 가이드를 제공하기 위해 전국의 전문가들을 소집하는 행정 명령을 내렸습니다. 주지사 사무실은 보도 자료를 통해 이 행정 명령이 AI 시스템의 안전 및 보안 위험에 대한 새로운 제3자 감독의 시행을 가속화하기 위한 것이라고 밝혔습니다.

Saturday (Sept. 19), Donald Trump 대통령은 업계 리더들이 지난 한 달 동안 경고해 온 AI 관련 safety concerns를 일축했습니다. Truth Social의 post에서 Trump는 다음과 같이 말했습니다: “우리는 이 놀라운 산업의 성장을 어떤 방식으로도 방해하거나 억제하지 않을 것입니다. AI는 차세대 산업 혁명 또는 인터넷이지만, 훨씬 더 크고 영향력이 클 것이며, 아마도 우리 국가 GDP의 25%에 달할 것입니다.”

모든 PYMNTS AI 보도를 보시려면 일간 AI Newsletter를 구독하십시오.