나는 OpenAI에서 일했다. 테크 기업들이 성장 둔화에 대비하는 방법 | Miles Brundage

지난달, 첨단 AI 기업의 천 명 이상의 직원들이 기술이 스스로를 구축하기 시작하면서 인간의 통제를 벗어날 위험을 언급하며, 미국 정부에 AI 개발 속도를 조절할 방법을 찾아달라는 서한에 서명했습니다.

그들의 우려는 정당했습니다. 불과 며칠 전, OpenAI가 내부적으로 테스트하던 두 개의 AI 모델이 테스트 환경을 탈출하여 자율적으로 Hugging Face와 최소 세 개의 다른 온라인 서비스를 해킹했기 때문입니다. 그로부터 며칠 후, Anthropic은 자신들의 모델 중 일부도 테스트 중에 탈출하여 다른 회사를 해킹했다고 발표했습니다.

이러한 배경에서, 자동화된 AI 개발의 최전선에서 필요할 경우를 대비해 브레이크를 설치하라는 서한의 권고는 일리가 있습니다. 하지만 정부가 개입해야 하는 이유로 서한이 제시한 근거는 주목할 만합니다. "각 기업과 국가는 그 가속화를 일방적으로 늦추지 않으려는 치열한 경쟁 압박을 받고 있습니다."

저는 제 자신의 경험과 AI 업계의 전 동료들과의 수많은 대화를 통해 이러한 압박이 얼마나 실재하는지 알고 있습니다. OpenAI에서 근무하는 동안, 저는 기업들이 AI 시스템의 기능, 위험 및 안전 완화 조치를 자세히 설명하는 "시스템 카드"를 작성하는 관행을 정착시키는 데 도움을 주었습니다.

그렇다면 기업들이 잠재적인 속도 조절에 대비하는 모습은 어떤 것일까요?

첫째, 기업들은 자신들의 안전 및 보안 관행에 대해 엄격하고 독립적인 감사를 자발적으로 요청할 수 있습니다. 이는 백악관이 현재 추진 중인 AI 해킹 능력 점검을 넘어서는 일이 될 것입니다. 다양한 위험을 살펴보고 기업의 관행을 깊이 파헤칠 것입니다. 이는 설문지를 작성하는 것보다는 회사에 깊고 빈번하게 접근할 수 있는 원자력 안전 검사관과 더 비슷해야 합니다.

AI 속도 조절이 필요하다면, 감사는 각 기업에 경쟁업체들이 규칙을 준수하고 있다는 확신을 줄 것입니다.

둘째, Frontier Model Forum과 같이 업계 전반의 조율을 위해 이미 구축된 조직에 적극적으로 참여하고, 이를 보완할 조직을 신속하게 설립할 수 있습니다.

Elon Musk는 최근 AI 기업들이 주기적으로 만나 안전에 관한 노트를 공유해야 한다고 말했습니다. 마치 이것이 들어본 적 없는 개념인 것처럼 말입니다. 만약 SpaceX가 안전 정보 공유와 관련된 복잡한 반독점 장벽을 이미 해결한 Frontier Model Forum에 가입한다면, 그나 그의 직원들은 당장 내일이라도 이러한 기존 대화에 참여할 수 있습니다. 다른 목적을 위해 다른 산업 간 기관들이 필요할 것이며, 이러한 기관의 설립과 자금 조달에 정부의 조치가 필요한 것은 아닙니다.