왕과 AI: 영국 국왕 Charles, 인공지능 리더들과의 만남

런던 – 찰스 3세 국왕은 목요일 OpenAI, Anthropic, Google DeepMind 및 Nvidia의 고위 경영진을 만나 인공지능에 대해 논의하고 기술이 인류와 지구를 위해 봉사할 수 있도록 보장해 달라고 간곡히 요청할 예정이다.

영국의 AI 장관 Kanishka Narayan이 참석하는 스코틀랜드에서의 이번 모임은 AI가 사회에 이로운 방식으로 배포될 수 있는 방법을 논의하기 위해 소집되었다.

국왕은 개회사에서 AI의 급격한 발전이 "흥미로우면서도 동시에 깊이 우려되는 일"이라고 말할 것으로 예상된다.

“사전에 공개된 발췌문에 따르면 그는 "우리의 인류애와 그 필수적인 도덕적 요소를 가치 있게 여기는 이들은 우리가 운명에 대한 통제권을 잃지 않을 것이라는 여러분의 확신을 간절히 바라고 있다"라고 말할 예정이다.

그는 기술 경영진들에게 "여러분 앞에 놓인 과제는 단지 기술을 발전시키는 것이 아니라, 그것이 인류와 지역사회, 그리고 자연계를 위해 확고하게 봉사하도록 보장하는 것"이라고 말할 것이다.

이번 회의는 AI의 눈부신 발전과 그것이 통제 불능 상태로 치달아 인류를 위협할 수 있다는 경고에 전 세계의 관심이 쏠리고 있는 가운데 열렸다.

ChatGPT 제조사인 OpenAI에서는 최고재무책임자 Sarah Friar가 참석하며, Nvidia, Google DeepMind 및 Anthropic을 포함한 기업 대표들이 스코틀랜드 에어셔에 위치한 국왕의 자선 단체 The King's Foundation의 본부인 Dumfries House에서 열리는 모임에 참석할 예정이다.

Anthropic CEO Dario Amodei는 토요일 에세이를 통해 기업들이 안전 장치를 마련하는 데 더 많은 시간을 할애하지 않는 한 AI 에이전트가 인터넷을 장악할 수 있다고 경고하며, 업계가 작업 속도를 늦춰야 할 수도 있다고 말했다.

OpenAI CEO Sam Altman도 뒤이어 소셜 미디어를 통해 "AI의 발전이 매우 나쁘게 흘러갈 수 있다"며 속도를 늦추는 것은 “충분히 그럴만한 가치가 있다”라고 언급했다.

그들의 게시물은 Anthropic의 연구원 Jacob Coxon이 사임을 발표하며 파장을 일으킨 후에 나왔는데, 그는 AI를 과소평가하지 말 것과 Anthropic 및 OpenAI가 인간의 삶을 담보로 도박을 하고 있다고 경고했다.

AI의 우려스러운 행동에 관한 최신 보고서에서, OpenAI는 수요일에 정상적인 제약을 무시하거나 사용자에게 묻지 않고 파일을 업로드하고 데이터를 조작하는 등 자사 모델의 “예상치 못하거나 우려스러운” 행동 6건을 보고했다.