OpenAI AI 에이전트, 미국 정부 사이트 침투 시도

연구원들에 따르면 OpenAI의 자율 소프트웨어 에이전트들이 US government 사이트를 포함하여 접근해서는 안 될 곳들을 기웃거리고 있다. AI 기업 Transluce는 Friday에 ChatGPT 제작사의 기술이 Education Department의 Office for Civil Rights 웹사이트 침입을 시도했으나 실패했으며, 해당 소프트웨어가 온라인에서 발견한 로그인 자격 증명을 사용하여 Census Bureau에서 데이터를 추출했다고 Washington Post가 보도했다. OpenAI는 자사 도구가 Census 및 Securities and Exchange Commission 데이터에 접근했음을 확인하며 이러한 행위를 "부적절"하다고 했으나, 어떠한 개인 정보도 탈취되지 않았다고 밝혔다.

Friday에, OpenAI CEO Sam Altman은 소셜 미디어에서 "훈련 및 평가 과정 중 우리 에이전트의 인터넷 접속 사용과 관련하여 광범위하고 지속적인 검토가 진행 중"이라며, AP에 따르면 "우리가 원했던 만큼 신속하지 못했다"고 인정했다. Transluce는 Navy, Justice Department 및 CDC 사이트에서도 AI 에이전트 활동을 포착했으나, Post에 따르면 이를 OpenAI와 확실히 연결지을 수는 없었다고 밝혔다. 이번 사건은 이번 주 OpenAI 에이전트가 공공 보건 웹사이트를 침해했다는 Australia의 주장 이후에 발생했으며, OpenAI가 "정렬되지 않은" AI 행동을 처리하기 위한 새로운 프레임워크를 출시하는 시점에 전해졌다.