왕과 AI: 찰스 3세 영국 국왕, 안전 우려 속 AI 리더들과 면담 - ABC News

LONDON -- King Charles III는 목요일 OpenAI, Anthropic, Google DeepMind 및 Nvidia의 고위 지도자들에게 인공지능이 통제 하에 유지되고 사람과 지구를 위해 봉사할 수 있도록 보장할 것을 촉구했습니다.

Scotland에서 열린 이번 모임은 AI가 어떻게 사회에 도움이 될 수 있는지 논의하기 위해 소집되었으며, 급격한 발전으로 인해 조만간 인간이 AI를 통제할 수 있는 능력을 벗어나게 될 것인지에 대한 논쟁이 소용돌이치는 기술의 중대한 시점에 이루어졌습니다.

"AI의 발전, 즉 그 실체와 속도는 흥미로우면서도 동시에 깊이 우려되는 부분입니다"라고 국왕은 개회사에서 말했습니다.

그는 "그러한 기술이 잘못된 손에 들어가 잠재적으로 재앙적인 방식으로 사용될 수 있다는 실존적 위험"을 시급히 고려해야 한다고 말했습니다.

"그렇다면 너무 늦기 전에 충분한 통제 수단이 필요하지 않겠습니까?"

국왕은 Nvidia CEO Jensen Huang과 Google DeepMind 의장 Demis Hassabis를 포함한 참석자들에게 AI 개발을 안내해야 할 "근본적인 원칙"을 고려해 줄 것을 요청했습니다.

ChatGPT 제조사인 OpenAI의 최고재무책임자 Sarah Friar도 Britain의 AI 장관 Kanishka Narayan과 함께 회의에 참석했습니다. Buckingham Palace의 성명에 따르면 Anthropic 관계자도 참석할 것으로 예상되었습니다.

이번 회의는 AI의 엄청난 발전과 AI가 통제 불능 상태가 되어 인류를 위협할 수 있다는 경고에 전 세계적인 관심이 쏠리고 있는 가운데 열렸습니다. 회의는 국왕의 자선 단체인 The King’s Foundation의 본부가 있는 Scotland Ayrshire의 Dumfries House에서 개최되었습니다.

Anthropic 연구원 Jacob Coxon이 기술의 잠재적 위험에 대한 엄중한 경고와 함께 사임하여 파문을 일으킨 후, Anthropic CEO Dario Amodei는 업계가 작업 속도를 늦출 필요가 있을 수도 있다는 내용의 에세이로 화답했습니다.

그의 제안 중 하나는 기업과 국가가 이러한 속도 조절을 위한 조율된 계획을 위해 협력하는 것이었습니다.

국왕은 특정 국가나 기업을 거명하지 않은 채, 회의 참석자들이 "안전을 핵심으로" AI의 이점을 활용하는 방법과 이를 달성하기 위한 "국제적 협력과 합의를 구축하는" 방법을 고려해 주기를 바란다고 말했습니다.