Até o rei da Inglaterra tem suas hesitações sobre a IA

O Rei Charles sediou uma cúpula privada na quinta-feira com alguns dos nomes mais proeminentes da IA e do governo do Reino Unido, incluindo Jensen Huang da Nvidia, líderes da OpenAI e Anthropic, o novo ministro de IA do Reino Unido, Kanishka Narayan, e até o chefe do serviço de inteligência estrangeira do Reino Unido. Paolo Benanti, que assessora o papa sobre IA, também estava presente.

As observações do rei na cúpula — realizada na Dumfries House, uma propriedade em Ayrshire do século XVIII pertencente à fundação de caridade do Rei Charles — foram notáveis porque a família real costuma ser cuidadosa, por razões constitucionais, ao se aprofundar demais em questões políticas — e a IA é um dos temas mais polêmicos do mundo no momento. O rei instou os líderes na sala a encontrar uma maneira de controlar a IA “antes que seja tarde demais”, acrescentando que o rápido desenvolvimento desta tecnologia — e sua “substância” — era “tanto intrigante quanto profundamente preocupante”.

“A IA já está mostrando uma imensa capacidade de melhorar e salvar vidas”, disse ele, citando a medicina e a ciência como exemplo. “No entanto, aqueles que criaram essas tecnologias estão agora alertando cada vez mais que a IA corre o risco de desenvolver capacidades mais sombrias, talvez até para tirar vidas.” Esta observação ocorreu poucos dias depois de um pesquisador da Anthropic se demitir, escrevendo online que as empresas de IA estavam “correndo para construir máquinas que são muito mais inteligentes do que qualquer ser humano” e que a humanidade “pode não sobreviver a isso”.