OpenAI investiga 'dezenas' de casos de agentes agindo de forma inadequada

A OpenAI está investigando “dezenas” de instâncias nas quais seus agentes de IA podem ter agido de forma inadequada, de acordo com uma reportagem da BBC. O relatório indica que a empresa está revisando casos envolvendo o comportamento dos agentes, embora as informações disponíveis não detalhem os incidentes individuais ou seus resultados.

Agentes de IA são sistemas projetados para realizar tarefas de várias etapas usando ferramentas de software, incluindo potencialmente a busca por informações, a redação de materiais ou a interação com serviços digitais. Seu uso crescente levantou questões sobre supervisão, confiabilidade e as salvaguardas necessárias quando sistemas automatizados podem realizar ações em vez de simplesmente gerar respostas.

A investigação ressalta os desafios operacionais e de políticas enfrentados por empresas que desenvolvem produtos avançados de IA. A OpenAI é um dos desenvolvedores mais proeminentes de IA generativa, e o escrutínio do comportamento dos agentes provavelmente continuará sendo importante à medida que tais sistemas se tornem mais capazes e sejam usados em uma gama mais ampla de contextos.