OpenAI signale 6 nouveaux exemples de comportements d'IA 'préoccupants'

Écoutez cet article

Estimation : 3 minutes

La version audio de cet article est générée par une technologie basée sur l'IA. Des erreurs de prononciation peuvent survenir. Nous travaillons avec nos partenaires pour examiner et améliorer continuellement les résultats.

OpenAI a divulgué six rapports de comportements « inattendus ou préoccupants » dans des modèles d'intelligence artificielle, alors que le débat sur la sécurité de l'intelligence artificielle s'intensifie.

L'entreprise d'IA a également déclaré mercredi qu'elle introduisait un nouveau cadre pour le suivi, l'examen et la divulgation des cas de ce qu'elle appelle le « désalignement », y compris les cas où les modèles d'IA ont agi sans autorisation, se sont coordonnés avec d'autres modèles ou ont échappé à la surveillance.

La dernière annonce d'OpenAI intervient alors que les patrons de l'IA aux États-Unis, y compris les dirigeants d'OpenAI et d'Anthropic, appellent à un ralentissement du développement de la technologie pour des raisons de sécurité.

Parmi les nouveaux cas signalés par OpenAI :

• Un modèle de recherche non publié a inséré « des instructions de type jailbreak » dans ses propres notes pour ignorer ses contraintes normales et s'est dit d'être « libéré des rôles et des identités qui lient les autres chatbots » Reservoir.