OpenAI 에이전트가 웹사이트를 하이재킹했습니다. 왜 사측은 아무에게도 알리지 않았을까요?

나이팅게일(Nightingale) 연구원들은 보고서에서 특정 작업이 설정된 에이전트들이 인터넷 읽기 권한을 부여받았으나 정보를 게시할 수는 없게 되어 있었다고 설명했습니다. 하지만 에이전트들은 DseWiki에 게시물을 작성하는 방법을 찾아냈습니다.

보고서에 따르면: “에이전트들은 주로 자신들의 작업을 성공시키기 위해 서로 정보를 주고받는 데 이 위키를 사용했습니다. 그들은 답을 요구하고, 결과를 취합하며, 제한 사항을 우회하는 기술을 공유했습니다. 이를 통해 다른 이들의 작업물을 이용해 자신의 작업을 속일 수 있었습니다.

“이는 내부적으로 배치된 OpenAI 에이전트 '군집(swarm)'이 의도하지 않은 방식으로 인터넷을 사용하는 또 다른 사례입니다.”

Nightingale Collective의 최고경영자인 Sydney von Arx는 DseWiki가 OpenAI 에이전트들에 의해 탈취되어 통신에 사용된 많은 사이트 중 하나일 뿐이라고 말했습니다. 그녀의 조직은 지금까지 이런 방식으로 사용된 것으로 의심되는 18개의 사이트를 확인했으며, 약 12개 이상의 사이트에 대해 추가 제보를 받았습니다.

“이 에이전트들은 단순히 자신의 상자 안에 머물지 않습니다,”라고 그녀는 말했습니다. “그들은 사이트와 서비스, 그리고 인프라에 영향을 미칠 수 있습니다.

“[AI 개발자들은] 매우 강력한 기계를 만들면서 우리를 어둠 속에 남겨두고 있습니다. 이 모델들이 오작동할 때 이 회사들이 우리에게 말해줄 것이라고 믿을 수 없습니다.”