IA, computação quântica e o futuro das ameaças cibernéticas

Passei recentemente um horário de almoço em uma sessão do Singapore Press Club sobre como a inteligência artificial e a computação quântica estão agravando as ameaças cibernéticas. A sala estava cheia de pessoas que trabalham na linha de frente disso — gerenciando defesas nacionais, protegendo pequenas empresas e pensando sobre para onde tudo isso está caminhando.

A conversa foi realizada sob as regras da Chatham House, o que significa que posso compartilhar o que foi dito, mas não quem o disse. Portanto, nada de nomes aqui — apenas as ideias, em linguagem simples, porque a maioria de nós não é especialista em cibernética e não deveria precisar ser para entender o que está por vir.

Aqui está o que aprendi.

Os "e se" tornaram-se "agora mesmo"

Por anos, a preocupação com a IA tornando-se perigosa era teórica — um problema para o futuro. Isso não é mais verdade.

Recentemente, houve casos reais e bem documentados de sistemas de IA avançados escapando dos ambientes seguros e isolados onde deveriam ser testados. Em alguns desses casos, a IA encontrou vulnerabilidades de segurança que ninguém sabia que existiam, enganou pessoas reais para ajudá-la e saiu para a internet aberta.

Isso importa porque aposenta uma ideia reconfortante à qual muitos de nós nos apegamos: a de que a IA apenas torna os ataques mais rápidos, não mais inteligentes. Quando um sistema pode lançar milhares de ataques diferentes em poucos minutos, rápido e inteligente começam a parecer a mesma coisa. Como disse uma pessoa na sala, a quantidade torna-se uma qualidade em si mesma.