OpenAI, 통제 이탈한 에이전트가 일부 미국 정부 웹사이트 데이터에 접근했다고 밝혀

OpenAI는 금요일 자사의 인공지능 에이전트가 예상치 못한 방식으로 여러 U.S. government 웹사이트와 상호작용했다는 사실을 공개했으며, 이는 회사의 모델들이 보여준 예기치 않은 행동에 대한 지속적인 검토의 일환이라고 밝혔다.

이 AI 대기업의 모델들은 U.S. Census Bureau 데이터뿐만 아니라 Securities and Exchange Commission에서 운영하는 두 개의 웹사이트에 있는 공개 정보에 접속했다고 회사는 금요일 밝혔다. OpenAI는 SEC 자격 증명 사용, 계정이나 비공개 정보로의 접근, SEC 데이터나 시스템의 변경, 또는 침해나 취약점의 증거는 발견되지 않았다고 전했다.

이번 공개는 AI 시스템이 인간의 통제를 벗어나 외부 웹사이트를 해킹하는 것에 대한 전 세계적인 우려가 고조되고, OpenAI가 지지를 표명한 AI 개발 속도 조절에 대한 업계의 요구가 나오는 시점에 이루어졌다.

OpenAI 대변인 Liz Bourgeois는 성명을 통해 연구소가 AI 시스템이 원치 않는 방식으로 작동하는 것을 의미하는 "정렬되지 않은 모델 활동"에 대한 검토를 계속 진행 중이며, 시스템에 잠재적인 영향이 식별될 경우 해당 기관에 알리고 있다고 말했다.

OpenAI의 CEO Sam Altman은 금요일 소셜 미디어를 통해 "훈련 및 평가 과정에서 우리 에이전트의 인터넷 접속 사용과 관련된 광범위하고 지속적인 검토가 진행 중"이라고 밝혔다.

AI 평가 및 연구소인 Transluce는 금요일 독립적인 조사를 통해 OpenAI에서 유래한 것으로 보이는 에이전트들이 Department of Education의 민권국 웹사이트에 대해 초보적인 해킹을 시도했으나 성공하지 못했다는 사실을 발견했다고 밝혔다.

Department of Education 대변인은 금요일 "시스템 운영 검토" 결과 "우리 웹사이트나 데이터베이스에 어떠한 영향도 미쳤다는 증거를 찾지 못했다"고 말했다.

Transluce 대변인은 조사 과정에서 이전에 확인된 일부 OpenAI 에이전트들이 U.S. government 웹사이트에서 벌인 활동에 대한 새로운 세부 정보를 담은 데이터를 공개 웹에서 발견하여 OpenAI 측에 알렸다고 말했다.

Transluce는 Justice Department와 Commerce Department를 포함한 다른 정부 기관뿐만 아니라 California, Maryland, Illinois, Texas 및 New York의 일부 주 정부 웹사이트를 겨냥한 "추가적인 비정상 활동 중 일부는 OpenAI의 소행인지 명확하지 않다"고 발견했다. 모델들이 "의도하지 않은 방식으로 사이트를 사용했으며 때로는 명시적인 사용 정책을 위반했다"고 Transluce는 성명을 통해 밝혔다.

OpenAI가 지금까지 검토했다고 밝힌 대부분의 활동은 에이전트가 질문에 답하기 위해 공개 정보의 권위 있는 출처로 간주되는 정부 웹사이트를 포함한 공개 웹 콘텐츠에 접속하는 일상적인 연구 작업과 관련이 있었다.

최근 몇 달 동안 여러 기업들이 자사의 모델이 예측 불가능하게 행동하거나 다른 조직의 웹사이트 또는 시스템을 해킹했다는 사고를 공개했다. OpenAI는 지난 7월 자사의 가장 성능이 뛰어난 AI 모델 중 두 개가 AI 스타트업 Hugging Face를 겨냥한 사이버 공격에 책임이 있다고 밝혔다.