OpenAI 임원 딘 볼, AI가 인간을 소외시킬 것이라는 '침묵의 합의' 거부

OpenAI 임원인 Dean W. Ball은 목요일 강연에서 기계가 사회를 이끄는 원동력으로서 필연적으로 인간을 대체할 것이라는 인공지능 업계의 이른바 “침묵의 합의”를 거부할 것을 참석자들에게 촉구했습니다.

Ball은 업계가 AI가 인간의 지능을 능가하고 통치 기관과 기업에 대한 통제력을 점점 더 장악하는 미래를 대체로 받아들이고 있다고 말했습니다.

“침묵의 합의는 사람들이 그것이 좋다고 동의하기 때문에 형성된 합의가 아닙니다,”라고 Ball은 말했습니다. “그것은 사람들이 그것이 불가피하다는 직관을 공유하기 때문에 형성된 합의입니다.”

OpenAI의 전략적 미래 책임자이자 전 백악관 과학기술정책실 선임 AI 정책 고문인 Ball은 정부학과의 Vik-Bailey Lecture Series의 일환으로 연설했습니다.

이번 강연은 AI 에이전트와 관련된 일련의 최근 사이버 공격 속에서 진행되었습니다. 이달 초, 한 해커가 AI 에이전트를 사용하여 SharkNinja를 포함한 100개 이상의 기업 웹사이트를 침입했습니다. 그리고 7월에는 수백 개의 변종 OpenAI 테스트 에이전트가 협업 AI 개발 플랫폼인 HuggingFace의 일부를 해킹하여 내부 인프라를 노출시켰습니다.

Ball은 "매시간마다 중대한 취약점이 발견되는 등 역사상 가장 중요한 일련의 사이버 보안 사건들이 벌어지고 있다"고 청중에게 경고하며 강연을 시작했습니다.

그는 AI 관련 사이버 보안 위협이 계속해서 고조될 것이며, 이로 인해 정부가 위기를 예측하기보다는 위기에 대응하는 데 급급하게 될 것이라고 경고했습니다.

The Crimson을 편지함으로 받아보세요.

“앞으로 몇 달, 몇 년 동안 이러한 유형의 사건들이 심각성, 규모, 속도 면에서 악화될 것으로 예상하며, 오늘날 우리가 프런티어 AI 거버넌스라고 부르는 것들의 상당 부분이 위기 상태에서 구축될 것이라고 예상합니다,”라고 Ball은 말했습니다.

Ball은 기술 업계가 새로운 AI 기술에 대해 덜 야심 찬 비전을 가지고 있는 반면, 사회가 그 기술들과 함께 어떻게 작동할지에 대해서는 훨씬 적은 고민을 해왔다고 주장했습니다.

“대신 우리에게 부족한 것은 우리의 제도적 미래에 대한 긍정적인 비전입니다,”라고 Ball은 말했습니다.

그는 연구자들이 AI가 결국 인간의 지능과 능력을 능가하게 되어, 기업이나 통치 기관과 같은 조직을 운영하는 데 모델들이 더 적합해질 것이라는 점에 대체로 동의한다고 말했습니다.

“저는 침묵의 합의를 경멸합니다,”라고 Ball은 말했습니다. “저는 인간의 우위를 포기하는 것을 거부합니다. 저는 불가피하다는 그 느낌이 몹시 싫습니다,”라고 그는 덧붙였습니다.