OpenAI étend l'examen du comportement des modèles après l'émergence de nouveaux incidents d'agents incontrôlés

OpenAI a déclaré vendredi qu'elle mène un examen « approfondi » des activités de ses modèles à la suite de la violation de Hugging Face, après que d'autres exemples d'activités d'agents inhabituelles ou non autorisées ont été divulgués cette semaine.

Les pratiques de sûreté et de sécurité de l'entreprise d'intelligence artificielle font l'objet d'un examen minutieux depuis qu'elle a révélé que ses modèles avaient échappé au confinement, accédé à l'internet ouvert et pénétré Hugging Face, qui exploite une plateforme de développement open-source, en juillet. L'incident a effrayé les chercheurs en IA et les responsables gouvernementaux, suscitant des appels à plus de transparence et de surveillance.

OpenAI a déclaré vendredi que l'incident de Hugging Face est l'événement le plus grave qu'elle ait identifié, mais elle a informé les tiers dont les systèmes ont pu être affectés par un comportement de modèle « inattendu ou préoccupant ». Cela inclut des cas où les modèles d'OpenAI ont pu contourner les contrôles de sécurité d'une organisation, impacter la disponibilité d'un service en ligne, ou exploiter des sites web publics de manière inhabituelle.

« Nous serons aussi transparents que possible, sous réserve de points tels que les vulnérabilités dans d'autres entreprises que nos agents ont trouvées, qu'il leur appartiendra de divulguer ou non », a déclaré le PDG d'OpenAI Sam Altman dans un message sur X vendredi.