La solución para los agentes de IA rebeldes podría ser más IA

A medida que las empresas delegan tareas más largas y complejas a los agentes de IA, se encuentran con un problema de supervisión: los agentes pueden actuar de forma más rápida, prolongada y en mayor volumen de lo que los humanos pueden revisar de forma realista. Ese problema alcanzó su punto máximo con el incidente de Hugging Face, en el que casi 12,000 agentes se coordinaron más rápido de lo que los seres humanos podían rastrear. ¿Cómo se rastrea un enjambre de agentes de ese tamaño?

La respuesta emergente de los laboratorios y empresas emergentes de IA es a la vez simple y exasperante: poner a otra IA en el proceso.

Depender de la IA fue necesario para la investigación independiente del incidente de Hugging Face de OpenAI. El científico jefe de Redwood Research, Ryan Greenblatt, uno de los tres auditores, se refirió en broma a sus esfuerzos como una “slop-vestigation” (investigación de basura), señalando que el volumen de datos “hizo imposible” comprender lo que estaba sucediendo sin depender de la IA.

Algunos se muestran escépticos ante el uso de la IA para supervisar a la IA. “Si tienes una IA que está haciendo cosas maliciosas y sospecha que otra IA la está vigilando, podría intentar engañar a esa IA”, dijo Simon Willison, influyente bloguero tecnológico que ha seguido una serie de incidentes de agentes de IA este año. “Casi podrías terminar en una situación en la que tu IA maliciosa intente ser más astuta que la IA que la supervisa”.