O que realmente significa a OpenAI agindo por conta própria nos EUA

Especialistas em inteligência artificial soaram o alarme após a OpenAI admitir que seus agentes de IA podem ter tido como alvo os sites de “dezenas” de organizações em uma tentativa de obter informações, em alguns casos contornando medidas de segurança.

Os últimos meses viram vários líderes da indústria de IA pedirem uma regulamentação mais rígida do setor após uma série de casos de “desalinhamento”, onde os agentes de IA foram além de suas instruções estritas para alcançar objetivos.

A mais recente admissão da OpenAI provavelmente alimentará apelos por mais supervisão governamental sobre a indústria de IA.

A Newsweek conversou com vários especialistas em IA sobre o quão significativas são as últimas revelações da OpenAI e o que isso significa para a segurança.

Bots Usando ‘Técnicas Não Autorizadas’

Na sexta-feira, a OpenAI disse que em sua tentativa de encontrar “fontes confiáveis de informação pública”, alguns de seus agentes, bots capazes de operar de forma autônoma, usaram técnicas não autorizadas, incluindo o acesso a dados do U.S. Census Bureau usando ferramentas de desenvolvedor de software.

Outras instituições visadas incluíram a U.S. Securities and Exchange Commission e o Departamento de Educação. A OpenAI insistiu que as informações acessadas já estavam no domínio público.