Ce que signifie vraiment l'indépendance d'OpenAI aux États-Unis

Les experts en intelligence artificielle ont tiré la sonnette d'alarme après qu'OpenAI a admis que ses agents d'IA pourraient avoir ciblé les sites web de « dizaines » d'organisations afin d'obtenir des informations, contournant dans certains cas les mesures de sécurité.

Les derniers mois ont vu un certain nombre de leaders de l'industrie de l'IA appeler à une réglementation plus stricte du secteur à la suite d'un certain nombre de cas de « désalignement », où des agents d'IA sont allés au-delà de leurs instructions strictes pour atteindre leurs objectifs.

Cet aveu récent d'OpenAI est susceptible d'alimenter les appels à une surveillance gouvernementale accrue de l'industrie de l'IA.

Newsweek a interrogé un certain nombre d'experts en IA sur l'importance des dernières révélations d'OpenAI et sur ce qu'elles signifient pour la sécurité.

Des bots utilisant des « techniques non autorisées »

Vendredi, OpenAI a déclaré que dans sa quête de « sources d'information publiques faisant autorité », certains de ses agents — des bots capables de fonctionner de manière autonome — avaient utilisé des techniques non autorisées, notamment l'accès à des données du U.S. Census Bureau à l'aide d'outils de développement de logiciels.