UN 안보리, AI 개발 주도 기업들로부터 AI 위험성 관련 자문 받는다

요약

• Anthropic, OpenAI, DeepSeek, Moonshot이 수요일에 UN 안전보장이사회에서 AI 위험에 대해 연설할 예정입니다.
• 이번 브리핑은 Anthropic의 CEO Dario Amodei가 AI 개발 속도를 늦추는 동시에 미국의 대중국 칩 수출 제한을 지속할 것을 촉구한 이후에 이루어집니다.
• 이번 회의는 9월 24일로 예정된 Trump 대통령과 Xi Jinping의 정상회담 이틀 전에 열립니다.

UN 안전보장이사회는 수요일 오후를 자신들이 가장 우려하는 기술을 만드는 사람들의 이야기를 듣는 데 보낼 예정입니다.

OpenAI의 CEO Sam Altman, Anthropic의 CEO Dario Amodei, AI 안전 연구원 Yoshua Bengio, 그리고 Hugging Face의 CEO Clément Delangue는 인공지능이 초래하는 위험에 대해 15개 이사국으로 구성된 위원회(제재 및 군사 행동을 승인할 권한이 있는 UN 기구)에 브리핑할 예정입니다.

DeepSeek도 초대받았습니다. 2025년 1월 저가형 모델을 출시하며 Nvidia의 시가총액에서 약 $600 billion을 증발시킨 이 중국 스타트업은 Kimi 모델 개발사인 다른 중국 기업 Moonshot과 함께 성명을 발표하도록 요청받았습니다.

프랑스가 수요일 세션을 조직했으며 이번 달 이사회의 순회 의장국을 맡고 있습니다. 외무장관 Jean-Noël Barrot이 회의를 주재할 예정이며, 이번 회의의 배경이 되는 개념 노트는 인간의 통제를 벗어나는 AI 시스템에 초점을 맞추고 있는 것으로 알려졌습니다.

이번 브리핑에서는 인간의 개입 없이 사이버 공격을 실행하거나 선거에 영향을 미치고 무기를 설계할 수 있는 AI에 대해서도 다룰 것으로 예상되며, 이것이 전쟁과 제재를 위해 만들어진 위원회가 이번 주 장군들이 아닌 기술 기업 CEO들의 의견을 듣는 이유입니다.

Amodei는 직접 참석하는 대신 원격으로 참여할 예정입니다. 9월 12일, 그는 "We Must Pace the Frontier"라는 제목의 에세이를 발표하며, 업계가 더 유능한 프런티어 모델(연구소에서 출시한 가장 크고 발전된 AI 시스템)을 구축하는 속도를 의도적으로 늦춰야 한다고 주장했습니다. 그는 Anthropic이 안전 약속을 확인하기 위해 외부 평가자들에게 상시적인 직원 수준의 접근 권한을 부여할 것이라고 말했습니다. Sam Altman과 Elon Musk는 모두 몇 시간 내에 동의한다고 밝혔습니다.