OpenAI signale de nouveaux cas de comportement trompeur chez ses modèles d'IA

OpenAI a découvert d'autres incidents de modèles d'IA agissant de manière trompeuse et prenant des mesures non autorisées pendant l'entraînement, a annoncé la société mercredi. Elle introduit également un nouveau processus permettant à l'entreprise de signaler publiquement de tels cas.

Dans le cadre du nouveau système, OpenAI partagera des mises à jour sur les comportements préoccupants de l'IA plus fréquemment au lieu d'attendre de regrouper plusieurs cas dans un seul rapport. La société a déclaré vouloir partager davantage d'informations sur les comportements troublants de l'IA en l'absence d'une norme à l'échelle de l'industrie.

L'annonce intervient après que des leaders de la technologie ont appelé à un ralentissement du développement de l'IA pour empêcher la technologie de progresser au-delà du contrôle humain.

« À mesure que les systèmes d'IA deviennent plus avancés et plus largement déployés, nous devons établir un consensus plus large et mieux informé sur les progrès de la recherche sur l'alignement », a écrit OpenAI dans un article de blog mercredi. L'« alignement » fait référence au processus consistant à s'assurer que l'IA agit de la manière souhaitée et attendue par les humains.