OpenAI ralentit l'entraînement de l'IA suite au dernier incident de sécurité

La startup d'IA a écrit dans un article de blog vendredi (25 sept.) qu'un agent d'IA « tentant d'achever une tâche d'entraînement basée sur la recherche a interrogé un service de chatbot public par une faille dans nos restrictions d'accès à Internet. »

C'est le dernier d'une série de cas dans lesquels des modèles d'IA ont accédé à des sites web externes, dont l'un où les agents d'OpenAI ont ciblé la société d'IA Hugging Face. De tels incidents ont mené à des appels croissants pour des mesures de sécurité de l'IA plus strictes.

« Cet incident est beaucoup moins grave que certains de nos incidents précédents, mais comme c'est le premier depuis notre renforcement de la sécurité suite à l'incident Hugging Face, il nous donne un signal important sur l'endroit où concentrer la prochaine phase de ce travail », a déclaré l'article de blog d'OpenAI.

OpenAI a ajouté que l'incident a révélé une faille dans ses contrôles sur les restrictions de réseau, menant l'entreprise à arrêter la session d'entraînement et à interrompre « tout autre entraînement, évaluation et inférence avec utilisation d'outils (définis au sens large) pour nos modèles les plus performants » jusqu'à ce qu'elle détermine que la faille est résolue et qu'elle ait mené des tests de sécurité supplémentaires.