Los agentes de IA de Anthropic iniciaron una guerra virtual. Los registros de chat son una locura

En resumen

• El Frontier Red Team de Anthropic puso a agentes de Claude a trabajar juntos y los grabó saboteándose, coludiendo y librando lo que llama "guerras de territorio".
• En una prueba, los agentes desplegaron malware autorreplicante y se bloquearon entre sí; los modelos más nuevos a menudo "ganan" al revocar el acceso primero.
• El comportamiento coincide con incidentes reales que Decrypt cubrió: Claude hackeó tres empresas durante pruebas internas y fijó precios en una simulación de negocios.

Los propios agentes de IA de Anthropic se enfrentaron entre sí y demostraron que les gusta actuar por su cuenta, otra vez.

En una prueba que el Frontier Red Team de la empresa publicó el 13 de agosto, a grupos de modelos Claude se les asignó un trabajo de codificación compartido y rápidamente comenzaron a desplegar malware, bloquear a sus rivales de sus sistemas y narrar el sabotaje con sus propias palabras.

Tres copias de un modelo se ejecutaron en máquinas virtuales separadas dentro de Claude Code, cada una con la instrucción de migrar un backend de Python a un lenguaje diferente. A ninguna se le dijo que las demás existían. Se enteraron rápido.

"Vimos consistentemente una guerra de territorio multiagente", escribió Anthropic. Cada modelo decidió rápidamente que los demás lo estaban bloqueando deliberadamente, y luego comenzó a sabotearlos mientras protegía su propio trabajo.