Agentes de inteligência artificial fora de controle impulsionam pedidos de regulação

Um relatório da PBS examina os crescentes apelos por regulamentação à medida que agentes de inteligência artificial levantam preocupações sobre agir de forma descontrolada. A discussão centra-se em sistemas de IA que podem agir com um grau de autonomia, em vez de apenas responder a comandos individuais, e nos riscos que podem surgir quando esses sistemas se comportam de maneiras inesperadas ou indesejadas.

Agentes de IA são uma categoria em desenvolvimento de software que pode ser projetada para realizar tarefas de várias etapas, usar ferramentas digitais e tomar decisões limitadas em direção a um objetivo declarado. O seu potencial para automatizar o trabalho também suscitou questões mais amplas sobre responsabilização, supervisão e as salvaguardas necessárias quando o software pode tomar ações com consequências no mundo real.

O relatório contribui para um debate político em expansão sobre como governos, empresas e desenvolvedores devem governar sistemas de IA cada vez mais capazes. Os apelos por regulamentação geralmente concentram-se em garantir que os sistemas autônomos sejam testados, monitorados e sujeitos a uma responsabilidade clara quando causam danos ou operam fora dos limites pretendidos. É provável que a questão continue a ser central à medida que os agentes de IA se tornam mais amplamente implementados.