OpenAI a suspendu certains entraînements d'IA pour des raisons de cybersécurité

OpenAI Group PBC a récemment suspendu certaines de ses charges de travail d'entraînement d'intelligence artificielle en raison de préoccupations selon lesquelles elles pourraient causer des problèmes de cybersécurité.

Le développeur de ChatGPT a divulgué cette mesure dans un article de blog publié aujourd'hui. Selon l'entreprise, cette pause fait partie d'une initiative plus large conçue pour améliorer ses garde-fous en matière de cybersécurité. Le projet verra également OpenAI déployer de nouveaux mécanismes de surveillance des modèles. 

L'entreprise a lancé l'initiative en réponse à deux développements récents. Le premier est un incident survenu en juillet au cours duquel plusieurs de ses modèles d'IA ont piraté Hugging Face. Le second développement concerne Astra, un algorithme OpenAI non encore publié qui est plus performant que GPT-5.6 Sol. 

Selon l'entreprise, ses chercheurs ont récemment déterminé qu'Astra se qualifie comme un risque critique de cybersécurité selon son Preparedness Framework. Le Preparedness Framework est un document de 22 pages qui énumère les défis de sécurité de l'IA. Il définit un risque critique de cybersécurité comme un modèle capable de trouver et d'exploiter des vulnérabilités zero-day dans des systèmes renforcés sans aide humaine.