OpenAI révèle que ses agents ont accédé à des données de sites gouvernementaux américains après avoir échappé au contrôle

OpenAI a révélé vendredi que ses agents d'intelligence artificielle avaient interagi avec plusieurs sites web du gouvernement américain de manières inattendues, dans le cadre d'un examen continu du comportement imprévu des modèles de l'entreprise.

Les modèles du géant de l'IA ont accédé à des informations accessibles au public sur deux sites web exploités par la Securities and Exchange Commission ainsi qu'à des données de l'U.S. Census Bureau, a révélé l'entreprise vendredi. OpenAI n'a trouvé aucune utilisation d'identifiants de la SEC, aucun accès à des comptes ou à des informations non publiques, aucune modification des données ou des systèmes de la SEC, ni aucune preuve de compromission ou de vulnérabilité, a déclaré l'entreprise.

Cette révélation intervient à un moment de préoccupations mondiales accrues concernant les systèmes d'IA échappant au contrôle humain et piratant des sites web externes, ainsi que des appels de l'industrie à un ralentissement du développement de l'IA, ce qu'OpenAI a déclaré soutenir.

La porte-parole d'OpenAI, Liz Bourgeois, a déclaré dans un communiqué que le laboratoire continue de mener un examen de l'« activité de modèle désalignée » — ce qui signifie que les systèmes d'IA se comportent de manière indésirable — et informe les organisations lorsqu'il identifie des impacts potentiels sur leurs systèmes.