AI 거대 기업들 "충분히 주의하지 않아", 전 OpenAI 엔지니어 경고

최근 ChatGPT 제작사인 OpenAI를 그만둔 한 안전 엔지니어는 토요일 인공지능(AI) 기업들이 "충분히 주의를 기울이지 않고 있다"고 경고했다.

David Robinson의 이러한 발언은 AI가 너무 강력해지고 있다는 우려가 커지는 가운데 나왔으며, Donald Trump 미국 대통령은 이러한 위협을 "속임수"라고 일컬은 바 있다.

OpenAI와 Anthropic은 최근 자신들의 AI 모델이 안전 제어를 우회하고, 실수를 숨기며, 접근 권한이 없는 시스템을 해킹한 사례를 공개했다.

David Robinson은 무엇을 썼나?

The Atlantic에 기고한 논평에서 Robinson은 AI에 원자력이나 항공 분야와 유사한 안전장치가 필요하다고 말하며, "시행착오의 시대는 끝났다"고 덧붙였다.

그는 미국 Big Tech 기업들이 더 진보된 AI 모델을 개발하기 전에 안전과 연구에 더 중점을 둘 것을 촉구하며, "가끔씩 발생하는 불가피한 인간의 실수가 재앙의 문을 열지 않도록 해야 한다"고 말했다.

12개의 선도적 AI 모델 출시 안전 보고서를 감독했던 Robinson은 거대 기술 기업들이 "속도와 유연성"을 우선시하기 때문에 최근의 오류들이 전형적으로 발생하고 있다고 말했다.

"이런 일이 일어날 수 있는 환경은 우리보다 더 똑똑할 수 있고 우리가 원하는 대로 행동하지 않을 수도 있는 인공 지능을 기를 만한 곳이 아니다."

이 전직 OpenAI 직원은 회사가 "반복적 배포"에 의존하고 있다고 지적했다. 즉, 새로운 AI 모델을 먼저 출시하고 문제가 발생한 후에야 안전장치를 강화한다는 것이다.

OpenAI에서 3 1/2년 동안 근무한 Robinson은 "회사가 한 출시에서 다음 출시로 질주하면서, 제가 필요하다고 믿는 수준의 주의를 기울이지 못하고 있다"고 덧붙였다.

ChatGPT 제작사, AI는 안전하다고 주장

OpenAI는 성명을 통해 이번 비판에 대해 "우리는 모델이 우리가 안전하게 관리하고 확보할 수 있는 것보다 더 유능해지지 않도록 보장하고 있으며, 속도를 늦춰야 할 때는 훈련을 중단하거나 모델 출시를 보류한다"고 답변했다.

최근 몇 달 동안 기술 전문가들과 정책 입안자들로부터 AI 모델이 너무 빠르게 발전하여 통제권을 장악하고 인류를 전멸시킬 수도 있다는 경고가 반복해서 나왔다.

이러한 우려에도 불구하고 Donald Trump 미국 대통령은 더 강력한 규제가 혁신을 늦추고 미국 AI 모델이 중국 경쟁자들을 이기는 것을 더 어렵게 만들 것이라고 주장하며 강력히 반대하고 있다.

이번 주, Trump는 Nvidia, SpaceX, OpenAI, Anthropic, Meta, Alphabet의 Google 등 6개 기업과 자발적 안전 협약을 발표했다.

대통령은 이 합의가 법적 구속력은 없더라도 "도덕적 구속력"이 있다고 설명했다.

그는 또한 행정부에 AI의 명칭을 "슈퍼 인텔리전스(Super Intelligence)" 또는 SI로 변경할 것을 지시했다.

지난달 Reuters/Ipsos의 설문 조사에 따르면 미국인의 4분의 3은 AI 거대 기업들이 AI가 사회에 심각한 해를 끼치는 것을 막기 위해 충분한 노력을 기울이지 않고 있다고 걱정하고 있다.

저희 팀의 신뢰할 수 있는 보도를 믿으신다면, 잠시 시간을 내어 Google에서 저희를 기본 소스로 선택해 주세요. 그러면 항상 검증된 뉴스를 가장 먼저 보실 수 있습니다.

편집: Sean Sinico