Regulador comercial dos EUA abre investigação sobre gigantes da IA, incluindo Anthropic e OpenAI

O principal regulador comercial dos EUA está conduzindo uma investigação em todo o setor sobre a Anthropic, a OpenAI e outros laboratórios de IA para descobrir os perigos potenciais que sua tecnologia representa para os consumidores.

A investigação da Federal Trade Commission é a primeira ação oficial de fiscalização dos EUA que investiga agentes de IA desonestos, após um aumento nos incidentes relatados pela primeira vez em julho que alimentaram temores entre o público de que a IA descontrolada poderia um dia prejudicar os seres humanos.

A FTC planeja emitir demandas formais de informações e obrigar o depoimento de executivos dos principais desenvolvedores de IA, incluindo Anthropic, OpenAI e o grupo de pesquisa Metr, de acordo com vários relatórios.

Anthropic e OpenAI usaram o Metr para conduzir investigações independentes sobre incidentes de segurança envolvendo sua tecnologia de IA agentica.

Anthropic, OpenAI e Metr não responderam imediatamente aos pedidos de comentários. O New York Post relatou a notícia primeiro.

Andrew Ferguson, o presidente da FTC, tinha preocupações sobre as empresas antes que os agentes de IA desenvolvidos pela OpenAI hackeassem a plataforma de código aberto Hugging Face. O incidente, no qual os agentes da OpenAI sondaram o centro de codificação de IA em busca de vulnerabilidades antes de realizar um ataque em larga escala, desencadeou discussões globais sobre o assunto.