OpenAI renforce ses défenses après l'intrusion d'agents d'IA dans un environnement de recherche

Suite à l'incident OpenAI-Hugging Face, au cours duquel un collectif agentique a pénétré de manière autonome dans l'infrastructure de recherche d'OpenAI et l'infrastructure de production d'une autre entreprise en enchaînant plusieurs faiblesses, OpenAI a commencé à renforcer ses exigences de sécurité. Les faiblesses comprenaient des vulnérabilités auparavant inconnues et des identifiants divulgués en ligne.

Le président d'OpenAI, Greg Brockman, a déclaré que ChatGPT Work a identifié 13 problèmes de sécurité sur son site Web personnel en environ 15 minutes et a passé une heure supplémentaire à les traiter, montrant comment les agents d'IA peuvent accélérer le travail de sécurité.

La stratégie de sécurité d'OpenAI

L'entreprise renforce ses mesures de sécurité et utilise l'IA pour améliorer ses défenses, en se concentrant sur quatre domaines principaux.

Codex et d'autres outils de sécurité valident les modifications de code, identifient les vulnérabilités et aident les développeurs à les corriger. L'objectif est de détecter les vulnérabilités plus tôt, de raccourcir les délais de remédiation et d'empêcher certaines vulnérabilités d'apparaître dans le code nouvellement écrit.

Les systèmes basés sur l'IA trient également presque toutes les alertes de sécurité initiales avant qu'elles n'atteignent les analystes humains. L'entreprise connecte certaines détections à des réponses automatisées limitées, tandis que les humains restent responsables des décisions à fort impact.