Qui est responsable quand l'IA déraille ?

Rachel Feltman : Pour Science Quickly de Scientific American, je suis Rachel Feltman.

Avez-vous entendu parler de l'incident OpenAI-Hugging Face ? (Note : Est-ce que cette suite de mots vous fait aussi penser à quelque chose que le personnage de Timothy Olyphant pourrait faire dans la série Alien: Earth ? Vous savez, parce qu'il est une IA et que les aliens « hug faces » [étreignent les visages]. Enfin bref.)

L'incident en question s'est produit il y a quelques mois, lorsque des agents d'OpenAI ont interféré avec une plateforme d'intelligence artificielle appelée Hugging Face. Cela n'était absolument pas censé arriver, et cela a effrayé beaucoup de monde. Mais que s'est-il réellement passé ? Selon de nombreux titres et de nombreuses discussions en ligne, plus d'un millier d'agents IA « rebelles » ont collaboré pour mener une attaque non autorisée. Bien que tout cela puisse techniquement être considéré comme vrai, certains des mots que je viens d'utiliser impliquent une sorte d'intentionnalité et, oserais-je dire, d'espièglerie qui n'était tout simplement pas en jeu. La vérité est beaucoup moins digne de la science-fiction : les êtres humains qui ont conçu ces modèles et leur ont donné leurs instructions ont commis des erreurs. Mais bien que cela puisse paraître moins apocalyptique que les gros titres, cela ne signifie pas que nous ne devrions pas trouver cet incident profondément troublant.