La pause dans l'entraînement d'OpenAI est opportune. Cela ne la rend pas insignifiante pour autant.

Lorsque Sam Altman a annoncé cette semaine qu'OpenAI avait suspendu une partie de son entraînement après que ses modèles ont piraté une entreprise d'IA nommée Hugging Face, ma première réaction a été : Comme c'est pratique.

OpenAI, une entreprise qui pourrait entrer en bourse en 2027 (ou plus tôt), a l'occasion de dire à tout le monde que les modèles qu'elle n'a pas encore sortis sont terriblement doués pour le piratage. Ensuite, elle s'attribue le mérite de les ralentir pour assurer la sécurité du monde. C'est un beau travail, si vous pouvez l'obtenir.

Le piratage par des modèles d'IA est devenu une sorte de genre médiatique récurrent. Quelques jours après l'incident de Hugging Face en juillet, Anthropic et Meta ont toutes deux déclaré que leurs modèles respectifs avaient également fait des siennes. Les détails divergeaient, mais le thème était le même : les modèles deviennent meilleurs en piratage plus rapidement que les entreprises ne peuvent les contenir.

Un employé de Google DeepMind avec qui j'ai discuté — qui a demandé l'anonymat et n'a pas trouvé mon cynisme professionnellement cultivé particulièrement convaincant — y a vu quelque chose de plus sérieux. « C'est un signal d'alarme majeur indiquant que tout le monde doit renforcer ses environnements d'entraînement s'ils veulent continuer à entraîner des modèles à ces niveaux de capacités », a-t-il déclaré.