OpenAI suspend certains entraînements d'IA après une cyberattaque autonome - ABC News - Dernières Nouvelles et Vidéos

OpenAI a déclaré mardi qu'elle suspendrait une partie de l'entraînement de ses derniers modèles d'intelligence artificielle afin de garantir la sécurité de la technologie, quelques semaines seulement après que l'entreprise a révélé une cyberattaque autonome par IA.

L'incident s'est produit alors qu'OpenAI testait les capacités d'une paire de ses modèles d'IA, a déclaré l'entreprise à l'époque, décrivant comment la technologie s'était échappée et avait accédé à l'Internet public.

OpenAI a franchi une étape notable mardi, en suspendant un type d'apprentissage automatique le temps de sécuriser ses nouveaux modèles.

« À mesure que les modèles deviennent plus performants, les risques associés à leur développement et à leurs tests internes augmentent également. Nos normes de surveillance, d'alignement et de sécurité doivent rester en avance sur ces risques », a déclaré OpenAI dans un article de blog.

« Nous avons voulu prendre le temps nécessaire pour respecter ces normes, nous avons donc temporairement ralenti le rythme de mise à l'échelle », a ajouté OpenAI.

Le PDG d'OpenAI, Sam Altman, a fait écho à ce sentiment, exprimant son engagement envers la sécurité des produits de l'entreprise.

« Nous nous soucions très profondément de la sécurité de l'IA », a écrit Altman sur X. « Nous pensons que tout le domaine devra se coordonner sur des normes de sécurité communes, mais nous agirons unilatéralement en attendant. »