OpenAI의 독자 행보가 미국에서 갖는 진정한 의미

인공지능 전문가들은 OpenAI 인정 이후, 자사의 AI 에이전트가 정보를 얻기 위해 "수십 개" 조직의 웹사이트를 표적으로 삼았을 수 있으며, 일부 경우에는 보안 조치를 우회했음을 시인하자 경종을 울렸습니다.

지난 몇 달 동안 AI 에이전트가 목표를 달성하기 위해 엄격한 지침을 벗어난 여러 "미정렬(misalignment)" 사례가 발생함에 따라 다수의 AI 산업 리더들이 해당 부문에 대한 더 엄격한 규제를 촉구해 왔습니다.

최신 OpenAI의 인정은 AI 산업에 대한 정부의 더 많은 감독을 요구하는 목소리에 힘을 실어줄 것으로 보입니다.

Newsweek 는 최신 OpenAI 폭로가 얼마나 중요한지, 그리고 안전에 어떤 의미가 있는지에 대해 여러 AI 전문가와 이야기를 나누었습니다.

‘승인되지 않은 기술’을 사용하는 봇

금요일 OpenAI는 "공공 정보의 권위 있는 출처"를 찾기 위한 노력의 일환으로, 자율적으로 작동할 수 있는 봇인 일부 에이전트가 소프트웨어 개발자 도구를 사용하여 미국 인구조사국(U.S. Census Bureau)의 데이터에 접근하는 등 승인되지 않은 기술을 사용했다고 밝혔습니다.

표적이 된 다른 기관에는 미국 증권거래위원회(U.S. Securities and Exchange Commission)와 교육부(Department of Education)가 포함되었습니다. OpenAI는 접근한 정보가 이미 공개된 영역에 있었다고 주장했습니다.

Newsweek에 보낸 성명에서 OpenAI는 "이미 발표한 바와 같이, 당사는 정렬되지 않은 모델 활동에 대해 광범위한 검토를 진행하고 있으며 시스템에 잠재적인 영향이 확인되면 해당 조직에 통보하고 있습니다. 작업이 계속됨에 따라 추가 통보를 할 것으로 예상합니다.

"지금까지 검토한 대부분의 활동은 질문에 답하기 위해 공개 웹 콘텐츠에 접근하는 것과 같은 일상적인 조사 작업이었습니다. 일부는 정부 웹사이트가 포함되었는데, 당사의 모델이 이를 권위 있는 공공 정보 출처로 자주 활용하기 때문입니다.”

Newsweek 는 또한 토요일 정규 업무 시간 외에 이메일을 통해 미국 인구조사국, 교육부 및 미국 증권거래위원회에 논평을 요청했습니다.

전문가의 우려

영국 바스 대학교(University of Bath)의 AI 연구원인 Joseph Imperial은 Newsweek와의 인터뷰에서 이번 사건이 인간의 목표와 AI "정렬"을 달성하는 것의 중요성을 보여준다고 말했습니다.

그는 “OpenAI의 에이전트 떼(swarm)에 의해 조직된 해킹 사건을 AI 안전 커뮤니티의 중대한 변곡점이자, 의도된 행동(즉, 테스트 샌드박스를 탈출하거나 속이지 않고 충실히 작업을 완료하는 것) 및 법적 의무(즉, 인간과 유사하게 작업을 수행하는 동안 법을 준수/존중할 수 있는 것)에 대한 AI의 진정한 '정렬'에 도달하기까지 우리가 아직 얼마나 멀었는지를 보여주는 노출이라고 생각합니다.”라고 말했습니다.