OpenAI déclare que ses bots ont interagi avec plusieurs sites du gouvernement américain lors d'une activité IA inattendue

Les agents d'intelligence artificielle d'OpenAI ont interagi avec plusieurs sites web du gouvernement américain de manière imprévue, a révélé l'entreprise vendredi, sur fond de préoccupations croissantes concernant les activités d'IA incontrôlées.

Ce rapport intervient dans le cadre d'un examen continu des comportements imprévus de l'intelligence artificielle, l'entreprise ayant précédemment reconnu plusieurs exemples de « comportement de modèle inattendu ou préoccupant ».

La porte-parole d'OpenAI, Liz Bourgeois, a déclaré dans un communiqué que le laboratoire continue de mener un examen de « l'activité de modèle désalignée » — lorsque les systèmes d'IA se comportent de manière indésirable — et informe les organisations lorsqu'il identifie des impacts potentiels sur leurs systèmes.

Selon les dernières révélations, les modèles du géant de l'IA ont accédé à des informations accessibles au public sur deux sites web exploités par la Securities and Exchange Commission (SEC) ainsi qu'aux données de l'U.S. Census Bureau. OpenAI n'a trouvé aucune utilisation d'identifiants de la SEC, aucun accès à des comptes ou à des informations non publiques, aucun changement apporté aux données ou aux systèmes de la SEC, ni aucune preuve de compromission ou de vulnérabilité, a déclaré l'entreprise.