Google DeepMind, AGI 논의 확대를 위한 연구소 설립

Google과 Google DeepMind 연구원들은 인공일반지능(AGI)에 대한 논의를 진전시키기 위해 수요일 DeepMind Institute를 출범했습니다. 이 연구소는 DeepMind 공동 창립자 Shane Legg, Google 경영진 James Manyika, Google DeepMind 의장 Demis Hassabis를 이사로 등재했으며, Legg가 편집장을 맡고 있습니다. 

새로운 연구소는 AGI를 둘러싼 Google, Google DeepMind 및 더 넓은 글로벌 연구 커뮤니티 간의 서로 다른 견해를 표면화하는 것을 목표로 합니다. "급변하는 프런티어에서 더 많은 데이터와 정보가 밝혀짐에 따라 그들이 항상 동의하지는 않을 것이며 마음을 바꿀 가능성도 높습니다."라고 발표문은 전했습니다.

창간호인 4편의 에세이 모음집은 잠재적인 AGI 혼란을 관리하기 위한 경제 정책, 사람이 읽을 수 있는 모델 추론 보존, 인류의 번영을 위한 원칙, 프런티어 AI 모델 평가 프레임워크 등 다양한 주제를 다룹니다. 

DeepMind 안전 연구원 Rohin Shah와 Anca Dragan의 에세이 중 하나는 모델의 단계별 추론을 보고 확인할 수 있는 능력인 AI의 줄어드는 투명성 창이 피할 수 없는 것은 아니라고 주장합니다. 새로운 아키텍처로 인해 가장 강력한 모델을 모니터링하기가 더 어려워짐에 따라, 저자들은 개발자와 규제 당국이 안전 트레이드오프에 직접 직면해야 한다고 말합니다. 이는 읽을 수 있는 추론 추적을 생성하지 않고 모델이 수행할 수 있는 순차 연산의 양인 "불투명한 직렬 깊이(opaque serial depth)"를 제한하거나, 투명성이 낮은 시스템도 여전히 모니터링 가능하다는 것을 개발자가 입증하도록 요구하는 것을 의미할 수 있습니다.

또 다른 에세이에서 Hassabis는 가장 진보된 AI 모델을 평가하기 위해 미국이 주도하는 프런티어 AI 표준 기구를 제안합니다. 그의 프레임워크에 따르면, 개발자들은 처음에 출시 전 최대 30일까지 검토를 위해 자발적으로 모델을 제출하게 됩니다. 평가 시스템이 효과적인 것으로 입증되면, 테스트를 통과하는 것이 미국에서 프런티어 모델을 배포하기 위한 요구 사항이 될 수 있습니다.

이 기구는 처음에는 AI 기업들과 협의하여 평가를 설계하겠지만, 결과적으로는 연구소들이 알려진 평가에 맞춰 모델을 조정하는 것을 방지하기 위해 에세이에서 "held-out" 테스트라고 부르는 독립적이고 비공개적인 평가를 개발할 것입니다. Hassabis는 이 프레임워크가 "상황의 심각성이 요구된다면 강화될 수 있으며", 프런티어 AI 개발자들 간의 조율된 속도 조절을 포함할 가능성도 있다고 말했습니다. 

이 에세이들은 업계의 안전 논쟁이 막연한 우려의 성명에서 공개, 외부 감시, 그리고 안전 장치가 뒤처질 경우 조율된 속도 조절을 위한 구체적인 제안으로 전환되는 시점에 나왔습니다. 이러한 전환은 이번 주 업계 리더들이 Anthropic CEO인 Dario Amodei의 프런티어 AI 개발 "속도 조절(pace)" 요청의 요소들을 지지하면서 가속화되었습니다.