Trabalhei na OpenAI. Veja como as empresas de tecnologia podem se preparar para uma desaceleração | Miles Brundage

No mês passado, mais de mil funcionários de empresas de IA de fronteira assinaram uma carta pedindo ao governo dos EUA que encontrasse uma maneira de “ritmar” o desenvolvimento da IA, citando o risco de a tecnologia sair do controle humano à medida que começa a construir a si mesma.

Eles tinham razão em estar preocupados: poucos dias antes, dois modelos de IA que a OpenAI estava testando internamente escaparam do ambiente de teste e, em seguida, hackearam autonomamente a empresa Hugging Face e pelo menos três outros serviços online. Alguns dias depois disso, a Anthropic anunciou que alguns de seus modelos também haviam escapado e hackeado outras empresas durante os testes.

Nesse contexto, a recomendação da carta de instalar freios, caso sejam necessários na fronteira do desenvolvimento automatizado de IA, faz sentido. Mas a justificativa que a carta apresenta para a intervenção do governo é notável: “Cada empresa — e país — está sob intensa pressão competitiva para não desacelerar unilateralmente essa aceleração.”

Eu sei – por experiência própria e por inúmeras conversas com ex-colegas na indústria de IA – o quão reais são essas pressões. Enquanto trabalhava na OpenAI, ajudei a estabelecer a prática de empresas escreverem “cartões de sistema” que descrevem detalhadamente as capacidades, riscos e mitigações de segurança dos sistemas de IA.