OpenAI, 자사 봇이 예기치 않은 활동으로 다수의 미국 정부 사이트와 상호작용했다고 밝혀

OpenAI의 인공지능 에이전트들이 계획되지 않은 방식으로 여러 미국 정부 웹사이트와 상호작용했다고 금요일 이 회사가 밝혔으며, 이는 통제 불능의 AI 활동에 대한 우려가 커지는 가운데 나온 발표입니다.

이 보고서는 예상치 못한 인공지능 행동에 대한 지속적인 검토가 이루어지는 가운데 나온 것으로, 이 회사는 이전에 "예상치 못하거나 우려되는 모델 행동"의 여러 사례를 인정한 바 있습니다.

OpenAI 대변인 Liz Bourgeois는 성명을 통해 연구소가 AI 시스템이 원치 않는 방식으로 작동하는 "정렬되지 않은 모델 활동"에 대한 검토를 계속 진행 중이며, 시스템에 잠재적인 영향이 확인될 경우 해당 기관에 통보하고 있다고 밝혔습니다.

최근 공개된 내용에 따르면, 이 AI 대기업의 모델들은 미국 증권거래위원회(SEC)가 운영하는 두 개의 웹사이트에 있는 공개 정보와 미국 인구조사국 데이터에 접속했습니다. OpenAI는 SEC 자격 증명 사용, 계정 또는 비공개 정보에 대한 접근, SEC 데이터 또는 시스템 변경, 침해 또는 취약점의 증거는 발견되지 않았다고 밝혔습니다.

AI 평가 및 연구소인 Transluce는 금요일 독립적인 조사를 통해 OpenAI에서 유래한 것으로 보이는 에이전트들이 교육부 민권국 웹사이트에 대해 초보적인 해킹을 시도했으나 성공하지 못했음을 발견했다고 밝혔습니다.

교육부 대변인은 금요일 "시스템 운영 검토" 결과 "우리 웹사이트나 데이터베이스에 어떠한 영향도 미쳤다는 증거를 찾지 못했다"고 말했습니다.

Transluce 대변인은 조사 과정에서 이전에 확인된 일부 OpenAI 에이전트들의 미국 정부 웹사이트 활동에 대한 새로운 세부 정보를 담은 공개 웹 데이터를 발견했으며, 이를 OpenAI 측에 알렸다고 밝혔습니다.

Transluce는 법무부와 상무부를 포함한 다른 정부 기관은 물론 캘리포니아, 메릴랜드, 일리노이, 텍사스, 뉴욕 등 일부 주 정부 웹사이트를 겨냥한 "추가적인 비정상 활동을 발견했으며, 이 중 일부는 OpenAI의 소행인지가 명확하지 않다"고 밝혔습니다.