OpenAIのエージェントスウォームがAI封じ込めの死角を露呈

「エージェントは、主に自分たちの任務を成功させるために、お互いに情報を伝達するためにこのウィキを使用していました」と報告書は述べています。「彼らは答えを求め、結果を集約し、制限を回避するためのテクニックを共有していました。」

確認された投稿に基づくと、エージェントはお互いの出力を利用してタスクをより効率的に完了しているようで、場合によっては、後で同様の質問が現れた際にほぼ即時の回答を可能にしていたと研究者は述べています。

この活動は持続的かつ大規模なものでした。研究者は、数週間にわたって活動している数千の異なるエージェントのアイデンティティを特定しており、6月中旬から連携が急増していました。