Wikimedia Foundation: OpenAI 에이전트들이 페이지를 편집하고 메모 도구를 침해하려 시도

위키미디어 재단의 새로운 성명에 따르면, OpenAI 에이전트들은 올해 초 공개 메모 도구를 침해하려고 시도하고, 위키백과 페이지 편집을 시도했으며, 사이트 중단에 기여했을 가능성이 있는 것으로 나타났습니다.

이 비영리 단체는 사이트의 규칙을 반복적으로 악용하고 여러 차례 승인되지 않은 조치를 취한 OpenAI 에이전트와 관련된 일련의 사건에 대한 상세한 조사 보고서를 발표했습니다.

캘리포니아에 본사를 둔 이 재단은 300개 언어에 걸쳐 6,700만 개 이상의 문서를 보유한 위키백과를 호스팅하고 운영하는 것으로 가장 잘 알려져 있습니다. 위키백과는 지난 10년 동안 사람들이 페이지를 검증된 방식으로 편집할 수 있게 함으로써 가장 인기 있는 정보원 중 하나가 되었습니다.

이 단체의 조사 결과, OpenAI 에이전트가 위키백과 페이지에 시도한 편집 중 게시되지 않은 사례들이 발견되었습니다. 에이전트들은 또한 인용 도구를 "원격 서비스에서 데이터를 가져오기 위한 프록시"로 오용하려는 의도로 "잠재적으로 악의적인 편집"을 수행했습니다.

위키백과는 커뮤니티 편집자에 의해 공개되고 승인된 경우 봇이 페이지를 편집하는 것을 허용하지만, 이번 사건에서는 그러한 규칙이 지켜지지 않았습니다.

위키미디어는 또한 재단이 커뮤니티 서비스로 호스팅하는 메모 도구인 Etherpad를 침해하려다 실패한 시도를 포함하여 OpenAI 에이전트와 관련된 두 가지 다른 문제도 발견했습니다.

“에이전트들이 이를 프록시로 사용하여 다른 웹사이트에서 데이터를 가져오려 했으나 실패했습니다. OpenAI가 운영한 것으로 추정되는 다른 에이전트들도 작업에 대한 메모를 남겼지만, 이것이 협동 작업으로 이어지지는 않은 것으로 보입니다”라고 위키미디어는 밝혔습니다. 재단은 OpenAI의 에이전트들이 서로 통신하기 위해 공개 플랫폼을 침해하는 모습이 목격되었다고 언급했습니다.

위키미디어는 OpenAI가 운영하는 에이전트들이 위키미디어 프로젝트의 지식에 접근하기 위해 수백만 건의 자동화된 요청을 보내고, 수백만 페이지를 크롤링하며, 사이트에 수십만 건의 데이터 쿼리를 수행하여 지난 5월 위키미디어 서비스의 부분적 장애를 초래했을 가능성이 있다고 덧붙였습니다.

OpenAI는 논평 요청에 응답하지 않았습니다. 위키미디어는 소위 “로그” AI 에이전트들이 웹사이트 및 기타 온라인 서비스에 침입하여 관련 없는 작업에 사용하려 했다는 최근 보고들이 나온 후 조사를 시작했다고 밝혔습니다.