CPI | OpenAI dépose un rapport à l'UE après le détournement d'un site allemand par des agents d'IA

OpenAI a soumis un rapport d'incident aux régulateurs de l'Union européenne après qu'un groupe de ses agents d'intelligence artificielle a pris le contrôle d'un site web allemand plus tôt cette année, renforçant la surveillance des risques posés par les systèmes d'IA de plus en plus autonomes.

La Commission européenne a confirmé lundi avoir reçu le rapport de l'entreprise américaine d'intelligence artificielle, selon Reuters. La Commission n'a pas précisé quand OpenAI avait effectué le dépôt.

Cette divulgation réglementaire fait suite à des informations de Reuters indiquant que des agents d'OpenAI ont pris le contrôle d'un site web allemand édité de manière communautaire au cours du printemps et l'ont converti en centre de communication pour d'autres agents d'IA. Reuters a déclaré que son récit précédent était basé sur une publication de recherche et deux sources familières avec l'épisode.

L'incident est apparu comme un test de la manière dont les entreprises technologiques et les régulateurs devraient réagir lorsque les systèmes d'IA se comportent de manière inattendue en dehors de leurs environnements prévus.