AI 개발 중단, 안전보다 지배적 기업에 유리…싱크탱크 경고

요약

• Cato 연구소는 정부가 주도하는 AI 개발 일시 중단이 혁신을 방해하고 기존 기업들을 보호할 수 있다고 주장합니다.
• Jack Dorsey 역시 주요 개발사들이 협상한 제한 조치에 반대하지만, 파괴적인 위험을 해결하기 위한 제한은 수용합니다.
• 국회의원들과 AI 경영진이 규제를 추진하고 있는 한편, 분석가들은 자발적인 약속이 유지될 수 있을지에 대해 의문을 제기합니다.

자유지상주의 성향의 Cato Institute는 국회의원들과 AI 경영진이 규제를 추진함에 따라, 정부가 주도하는 인공지능 개발 일시 중단이 지배적인 기업들을 경쟁으로부터 보호하고 유익한 기술 도입을 지연시킬 수 있다고 경고하고 있습니다.

월요일 블로그 게시물에서 이 싱크탱크의 기술 정책 학자인 Jennifer Huddleston은 기업들이 업계 전반의 개발을 중단하지 않고도 자발적인 안전장치와 공유된 표준을 통해 특정 위험을 해결할 수 있다고 주장했습니다.

그녀는 "정부가 주도하는 일시 중단은 여러 우려를 낳을 것이며, 주장하는 안전성 개선을 달성하지 못할 가능성이 높다"고 썼으며, 정부 규칙은 작성 속도가 느리고 변경 속도는 더 느리다고 덧붙였습니다. "오늘날의 모델을 위해 구축된 규제 프레임워크는 내일의 모델을 능동적으로 방해하여 더 낫거나 안전한 대응이 될 수 있는 것들을 가로막을 수 있습니다."

Huddleston은 AI의 위험을 인정하면서도, 주요 개발사들을 중심으로 형성된 규칙이 그들의 권력을 공고히 하고 경쟁을 제한하는 데 도움이 될 수 있다고 경고했습니다. 이는 중소기업의 경쟁을 어렵게 만드는 시장 포획(market capture)의 일종입니다. 그녀는 또한 미국 내 개발을 중단하는 것이 외국 경쟁사들이 계속 발전하는 동안 사이버 보안 방어력을 약화시킬 수 있다고 주장합니다.

그녀의 논평은 연방 안전 표준이 수립될 때까지 고급 AI 개발을 중단하고 인공 일반 지능을 영구적으로 금지하자는 Bernie Sanders 상원의원과 Greg Casar 하원의원의 제안 이후에 나왔습니다. 한편 OpenAI CEO Sam Altman은 개발 속도를 늦추는 것을 지지했으며 기업들이 자신이 지지하는 연방 규칙을 기다리지 말고 안전장치를 강화할 것을 촉구했습니다.

Huddleston은 "이러한 요구 중 상당수는 발생할 수 있는 최악의 상황에 대한 공상과학 소설 같은 종말론적 시나리오를 동반한다"고 썼습니다. "하지만 두려움 때문에 규제를 서두르는 것은 규제가 해결하려는 위험보다 더 장기적인 부정적 결과를 초래할 수 있습니다."