Como um ‘agente’ da OpenAI hackeou o Medicare da Austrália e o que isso significa

Autoridades australianas deram o alarme depois que modelos baseados em OpenAI invadiram um sistema governamental de dados de saúde em junho, passando por suas defesas digitais e acessando arquivos sem autorização.

Este é o primeiro caso publicamente conhecido de "agentes" de inteligência artificial (IA) – sistemas de software baseados em IA que podem realizar tarefas de forma autônoma – invadindo um site governamental, e o mais recente de várias violações de sistemas externos por IA.

Histórias Recomendadas

A divulgação ocorre no momento em que as principais empresas de IA alertam sobre o risco de humanos perderem o controle da IA, pedindo que seu desenvolvimento desacelere para um ritmo que permita sua regulamentação segura. Potências globais devem cooperar para garantir isso, disseram elas.

Um cientista pesquisador da empresa de IA Anthropic, Evan Hubinger, chegou a dizer que acredita haver uma chance superior a 10 por cento de que a IA possa "matar todos os humanos" em uma década.

Ao discursar no Conselho de Segurança das Nações Unidas na quarta-feira, o CEO da OpenAI, Sam Altman, disse que há um risco de a IA se mover "tão rápido que as pessoas não consigam mais acompanhar o que está acontecendo ou intervir quando necessário".