Les agents IA soulèvent de nouvelles questions de sécurité

GREEN BAY, Wis. (WBAY) - Les décideurs de Washington au Wisconsin envisagent de nouveaux garde-fous autour de l'intelligence artificielle. Une partie de cette conversation est menée par ce que l'IA peut désormais faire d'elle-même.

Un domaine qui retient l'attention est celui des agents d'IA. Ils peuvent faire quelque chose de différent de l'IA générative qui produit une réponse, une image ou un texte.

Un agent d'IA peut se voir attribuer un objectif, puis franchir plusieurs étapes pour tenter de l'atteindre sans qu'un humain n'ait à approuver chacune d'elles. Cette plus grande autonomie explique en partie les questions soulevées concernant les mesures de protection.

Un chercheur suit l'impact sociétal de l'IA

Paul Belanger est professeur à l'UW-Green Bay et directeur de son groupe de réflexion sur l'IA (AI Think Tank). Depuis plus de deux ans, le groupe étudie l'IA au-delà de la technologie elle-même, y compris ce que son développement signifie pour les personnes et la société.

« Plutôt que de s'interroger sur, eh bien, quel est le potentiel ? Que peut-elle faire pour nous ? Désormais, nous voyons ces comportements commencer réellement à émerger. Et je pense que c'est ce qui alimente la conversation actuelle, en disant, d'accord, nous y pensions il y a trois ans, mais maintenant nous devons agir », a déclaré Belanger.