OpenAI 안전 담당 직원 퇴사하며 경고 목소리 높여

David Robinson은 OpenAI의 모든 주요 모델 출시에 수반되는 안전 보고서를 작성하곤 했습니다. 이번 주, 그는 직위에서 사임했으며 현재 The Atlantic의 사설을 통해 자신의 목소리를 내고 있습니다.

자신이 구축하는 데 도움을 준 대상이 얼마나 위험한지 경고하기 위해 갑자기 어디선가 나타나는 사람들에 대해 약간 냉소적으로 느껴지더라도 이해할 수 있습니다. 어쨌든 그들이 이 혼란을 만들었으니까요. 하지만 그렇다고 해서 그들의 경고를 무시해야 한다는 의미는 아닙니다.

Robinson은 업계의 문화가 근본적으로 망가졌다고 말합니다. 이것은 단순히 훈련 모델을 다루는 방식에 몇 가지 새로운 규칙이나 규정을 적용하는 것보다 더 깊은 문제입니다. 실리콘 밸리는 "극도의 자신감"과 "끊임없는 전력 질주"로 운영되어 왔으며, 잠재적인 문제를 무시하거나 과소평가하는 "거침없는 낙관론"으로 더 크고 더 나은 모델을 구축해 왔다고 그는 말합니다.

그는 AI 기업들이 겸손함을 기르고 기술 산업의 고립된 '빠르게 움직이고 기존의 것을 파괴하라'는 세상 밖을 내다봐야 할 때가 왔다고 말합니다. 구체적으로 그는 AI에 원자력 수준의 안전장치가 필요하다고 말합니다:

오늘날의 위험을 고려할 때, 프런티어 연구소는 원자력 발전소나 붐비는 공항처럼 다중화된 계층과 신중하고 시간이 많이 소요되는 계획을 가지고 운영되어야 하며, 이를 통해 가끔씩 발생하는 불가피한 인간의 실수가 재앙의 문을 열지 않도록 해야 합니다.

Robinson은 저명한 AI 기업에서 자신의 직위를 떠난 연구원 및 안전 요원들의 증가하는 행렬 중 가장 최근 인물일 뿐입니다. Jacob Coxon은 Anthropic을 그만두고 AI가 "이 10년이 끝나기 전에 우리 모두를 죽일 수 있다"고 공개적으로 말함으로써 이러한 탈출의 서막을 연 것으로 보입니다. 그의 뒤를 이어 Google DeepMind의 Robert O’Callahan, Bilal Chughtai, and Josh Engels, 그리고 Anthropic의 Joe Benton이 그 뒤를 이었습니다.