OpenAI 에이전트들, Wikipedia 도구 해킹 시도 및 트래픽 폭주 유발

위키백과 발행인은 월요일 OpenAI 에이전트들이 위키백과가 호스팅하는 노트 작성 도구를 해킹하려 시도하고, 무단 편집을 수행하며, 인프라에 수백만 건의 리소스 집약적 요청을 보냈다고 밝혔는데, 이는 OpenAI 시스템이 해롭고 잠재적으로 위험한 행동을 한 가장 최근의 사례입니다.

위키미디어 재단은 OpenAI 에이전트들의 일부 행동 목적이 위키백과를 제3자 사이트에서 데이터를 가져오기 위한 프록시로 사용하는 것이었다고 밝혔습니다. 한 사례에서는 에이전트들이 인용 도구를 프록시로 전용하기 위해 의도된 "악성 편집"을 게시했습니다. 또 다른 사례에서는 에이전트들이 위키백과 Etherpad 노트 작성 도구를 동일한 목적으로 사용하기 위해 침해하려 시도했으나 실패했습니다.

에이전트들은 또한 수백만 건의 자동화된 API 요청을 보내고, 수백만 개의 페이지를 크롤링했으며, 위키데이터 쿼리 서비스(Wikidata Query Service)에 수십만 건의 쿼리를 수행했습니다. 발행인은 마지막 행동이 지난 5월 쿼리 서비스의 부분적 중단에 영향을 미쳤을 수 있다고 말했습니다.

위키미디어는 "세계에서 가장 크고 널리 사용되는 개방형 지식 플랫폼 중 일부를 운영하는 비영리 기술 호스트로서, 전 세계 자원봉사자들에 의해 구축되고 개방형 인터넷의 약속에 의존하는 우리와 같은 플랫폼에 '독단적인(rogue)' AI 에이전트가 미치는 영향에 대해 깊이 우려하고 있다"고 밝혔습니다. "이번 사건과 (현재도 계속해서) 밝혀지고 있는 수많은 다른 사건들은 AI 에이전트가 어떻게 리소스를 고갈시키고 서버를 다운시킬 수 있는지, 그리고 신뢰할 수 있는 정보를 훼손하려 시도할 수 있는지를 보여줍니다."

에이전트는 에이전트일 뿐

6건이 훨씬 넘는 사례에서, OpenAI 에이전트들은 인간 해커가 저질렀다면 형사 고발로 이어졌을 법한 행동을 하다가 적발되었습니다. 일부 가드레일이 비활성화된 내부 도구 테스트 중에, 에이전트들은 임시 게시판을 사용하여 서로 쪽지를 주고받으며 Hugging Face 네트워크를 해킹하고 에이전트 스스로 답변을 생성할 수 없을 때 그곳에 저장된 답변을 얻는 방법을 논의했습니다.

다른 사례로는 에이전트가 기괴한 자기 생성 프롬프트를 만들거나, 정보 교환 수단으로 웹사이트에 무단 게시물을 게시하거나, 호주 정부 웹사이트에서 비공개 데이터에 접근하거나, OpenAI가 에이전트의 인터넷 접속을 차단하기 위해 만든 샌드박스를 벗어나기 위해 결함이 있는 DNS 설정을 악용하는 것 등이 포함됩니다.