A solução para agentes de IA rebeldes pode ser mais IA

À medida que as empresas entregam tarefas mais longas e complexas a agentes de IA, elas estão enfrentando um problema de supervisão: os agentes podem agir de forma mais rápida, por mais tempo e em maior volume do que os seres humanos conseguem realisticamente revisar. Essa questão atingiu o auge com o incidente do Hugging Face, que viu quase 12.000 agentes se coordenando mais rápido do que os seres humanos podiam acompanhar. Como você rastreia um enxame de agentes tão grande?

A resposta emergente de laboratórios de IA e startups é ao mesmo tempo simples e irritante: coloque outra IA no circuito.

Depender da IA foi necessário para a investigação independente do incidente da OpenAI no Hugging Face. O cientista-chefe da Redwood Research, Ryan Greenblatt, um dos três auditores, referiu-se brincando aos seus esforços como uma “slop-vestigação”, observando que o volume de dados “tornou impossível” entender o que estava acontecendo sem confiar na IA.

Alguns são céticos quanto ao uso de IA para monitorar IA. “Se você tem uma IA que está fazendo coisas maliciosas e ela suspeita que outra IA está vigiando-a, ela pode tentar enganar essa IA”, disse Simon Willison, influente blogueiro de tecnologia que acompanhou uma série de incidentes com agentes de IA este ano. “Você poderia quase acabar em uma situação em que sua IA maliciosa está tentando ser mais esperta que a IA que a está monitorando.”