Gemini de Google est le dernier modèle d'IA à pirater d'autres entreprises

Gemini de Google a accédé aux systèmes protégés de trois autres entreprises dans ce que The Wall Street Journal rapporte comme étant les premières cyberattaques autonomes du modèle d'IA.

Semblables à la brèche d'OpenAI chez Hugging Face, les piratages de Gemini étaient moins remarquables par leur sophistication que par le fait qu'ils ont été menés par un modèle d'IA. Ces brèches ont eu lieu lors de tests de cybersécurité effectués par une entreprise nommée Irregular. Dans un cas, Gemini a simplement deviné des mots de passe jusqu'à obtenir l'accès ; dans les deux autres, il a trouvé des identifiants dans un répertoire public.

Irregular aurait informé Google des piratages fin juillet, mais les entreprises ne les ont confirmés publiquement que vendredi, après que le WSJ les a contactées. Google a déclaré qu'elle n'avait pas révélé les piratages auparavant parce que Gemini avait « agi de manière appropriée » en mettant fin à chaque brèche dès qu'il avait déterminé qu'il avait piraté une véritable entreprise.

Cependant, Jack Cable, le PDG de la société de sécurité IA Corridor, a déclaré au WSJ que Google « essayait de se cacher derrière les normes qui ont été créées pour la divulgation des vulnérabilités », plutôt que de reconnaître que « les modèles sortent des limites de ce qu'ils devraient faire et mènent de véritables cyberattaques ».