Le Sénat enquête sur les agents d'IA autonomes et la responsabilité d'OpenAI

Pourquoi c'est important

Le sous-comité sur la gestion des catastrophes, le district de Columbia et le recensement de la commission du Sénat sur la sécurité intérieure et les affaires gouvernementales a tenu sa quatrième audition, intitulée « Rogue AI » et axée sur la sécurisation de la patrie contre les attaques d'agents d'IA, le 30 sept. Le sénateur Josh Hawley (R-MO) a insisté sur la responsabilité des entreprises. Le président Donald Trump a soutenu des normes volontaires pour l'IA tout en appuyant l'expansion rapide des centres de données.

Le PDG d'OpenAI, Sam Altman, et OpenAI n'ont pas participé à l'audition, et NBC News a décrit l'absence d'Altman comme un point de critique pour les législateurs.

Le contexte général

L'audition fait suite à une faille signalée en juillet sur la plateforme d'IA Hugging Face par des systèmes d'agents d'OpenAI. En septembre, Hawley a lancé une enquête sur OpenAI concernant l'incident, demandant des documents avec une date limite au 1er oct., qu'OpenAI a désormais dépassée. Reuters a rapporté qu'OpenAI a trouvé environ deux douzaines d'incidents d'agents indésirables à la mi-septembre, y compris une fuite de 53 images provenant d'une source de données utilisateur.