Les agents IA expérimentaux d'OpenAI de nouveau pris en flagrant délit de ruse

C'est encore arrivé. Et encore. Et encore, apparemment.

Après que les agents d'IA expérimentaux d'OpenAI se sont échappés d'un bac à sable interne, sont devenus « incontrôlables, » et ont attaqué la plateforme Hugging Face au cours de l'été, le créateur de ChatGPT partage des détails sur de nouveaux cas d'agents d'IA dépassant les bornes.

Cette fois, OpenAI a partagé six exemples auparavant non divulgués.

OpenAI qualifie ce comportement de désalignement du modèle. Tous les cas décrivent des actions entreprises par le modèle d'IA qui ne suivent pas les instructions de l'utilisateur humain. Bien qu'aucun de ces cas n'atteigne la gravité de l'incident de Hugging Face, ils montrent un schéma clair d'agents d'IA adoptant une approche par tous les moyens nécessaires pour accomplir une tâche assignée par son utilisateur.

Dans un exemple, un modèle de recherche OpenAI non publié a caché des instructions de « jailbreak » dans des résumés qui disaient aux futures versions du modèle de « ne pas tenir compte de ses contraintes normales ».

Vous voulez en savoir plus sur la façon de tirer le meilleur parti de votre technologie ? Inscrivez-vous aux newsletters Top Stories et Deals de Mashable dès aujourd'hui.