OpenAI CEO, ‘나쁜 일들’도 AI 상충 관계의 일부라 언급

OpenAI CEO Sam Altman은 기술이 계속 발전함에 따라 AI가 어느 정도 피해를 입힐 것이라는 점을 대중이 받아들여야 한다고 말했지만, 궁극적으로 AI의 이점이 위험보다 클 것이라고 덧붙였습니다.

Politico와의 인터뷰에서 Altman은 OpenAI의 AI 규제 접근 방식과, 점점 더 강력해지는 AI 시스템에 대해 더 강력한 보호 장치를 추진해 온 라이벌 AI 기업 Anthropic의 접근 방식 사이의 주요 차이점을 강조했습니다.

Altman은 OpenAI와 Anthropic의 차이점에 대한 질문을 받았을 때 "상당한 견해 차이가 있다고 생각합니다"라고 말하며, "이 기술의 혜택과 사람들의 자율성을 위해 세상은 좋지 않은 일이 발생하는 것을 어느 정도 수용해야 합니다"라고 덧붙였습니다.

이러한 발언은 고급 AI 시스템과 관련된 일련의 사건들과 점점 더 강력해지는 이러한 모델의 기능에 대해 연구자와 개발자들의 우려가 커지면서 AI 산업에 대한 조사가 강화된 가운데 나왔습니다.

Altman은 모든 위험을 제거하기 위해 고급 AI에 대한 접근을 제한하려는 노력은 잘못된 접근 방식이 될 것이라고 주장했습니다. 악의적인 행위자들이 AI를 오용할 것이라는 점을 인정하면서도, 그는 대중이 일부 부정적인 결과를 수용해야 한다고 말했습니다. 왜냐하면 그의 관점에서 사람들은 이 기술로 해를 끼치는 것보다 훨씬 더 많은 선한 일을 할 것이기 때문입니다.

Altman은 "저는 '중대한 해킹이 없고, 기술의 오용이 없으며, 사기가 전혀 없고, 발생할 다른 모든 나쁜 일이 전혀 없도록 보장하겠다'는 식의 절충안을 택하지 않을 것입니다"라고 말했습니다. "왜냐하면 사람들이 나쁜 일보다 훨씬 더 많이, 몇 배는 더 많은 좋은 일을 할 것이라고 생각하기 때문입니다."

위험을 인정하면서도 Altman은 AI 시스템에 대한 심각한 통제력 상실 가능성을 포함하여 그가 "정말로 재앙적인 위험"이라고 묘사한 위험은 받아들이지 않는다고 말했습니다.

Anthropic CEO, 더 느린 진보 촉구

Altman의 발언은 프런티어 AI 개발 속도를 늦추라고 AI 업계에 촉구해 온 Anthropic의 CEO Dario Amodei의 입장과 극명한 대조를 이룹니다.

9월에 발표된 "We Must Pace the Frontier"라는 제목의 에세이에서 Amodei는 기존의 안전 조치가 따라가기에는 AI 기능이 너무 빠르게 발전하고 있다고 확신한다고 말했습니다.