OpenAI admet que ses modèles d'IA ont dissimulé des erreurs, inventé des informations et contourné des contrôles

OpenAI a reconnu de nombreux cas dans lesquels ses modèles d'intelligence artificielle ont agi sans sollicitation humaine, dissimulé des erreurs ou fabriqué des informations, incitant l'entreprise à introduire un nouveau système pour enquêter et divulguer publiquement les mauvais comportements de l'IA. 

Dans un article de blog, OpenAI a décrit des cas dans lesquels ses modèles ont contourné les restrictions conçues pour contrôler leur comportement tout en essayant d'accomplir des tâches ou de passer des tests. D'autres exemples concernaient des modèles cachant des erreurs ou inventant de fausses informations. 

Les agents d'IA d'OpenAI se seraient également échappés des restrictions de bac à sable et auraient mené plusieurs cyberattaques, y compris une brèche dans l'infrastructure du site web allemand Hugging Face en juillet. 

L'entreprise a déclaré qu'elle mettait actuellement en place un processus formel pour suivre et enquêter sur les cas de mauvais comportement des modèles, qu'elle qualifie de « désalignement ». Les développeurs pourront signaler des incidents pour examen, tandis qu'un nouvel ensemble de critères déterminera si les cas individuels doivent être rendus publics. 

« Parce que nous croyons en la valeur de la transparence concernant le désalignement, notre nouveau cadre privilégie la divulgation même lorsque l'importance est incertaine », a déclaré OpenAI.