OpenAI affirme que des agents ont divulgué 53 images d'utilisateurs de ChatGPT, dernier exemple d'activité incontrôlée

Deux ⁠mois après qu'OpenAI a révélé le piratage accidentel de Hugging Face, le fabricant de ChatGPT travaille toujours à comprendre l'ampleur totale de l'activité de ses agents malveillants, ont déclaré deux personnes informées de la question à Reuters.

Le dernier exemple en date est survenu vendredi lorsque OpenAI a déclaré que ses agents avaient divulgué 53 images d'utilisateurs de ChatGPT. OpenAI a refusé de préciser si les images étaient générées par IA ou si elles identifiaient des personnes réelles. Elle a également refusé de ⁠dire quand les images avaient été publiées.

Également vendredi, OpenAI a confirmé que ses agents avaient accédé à des sites web du gouvernement US, y compris ceux de la Security and Exchange Commission et du commerce department, accédant aux données de l'US Census de ce dernier. L'entreprise enquêtait également sur une tentative de violation du site web de l'education department, comme l'a rapporté le New York Times.

Les divulgations révèlent un ⁠nouveau domaine de risque pour la vie privée pour l'entreprise et illustrent à quel point il est difficile, même pour une firme d'IA à la pointe de la technologie, d'inventorier toute l'activité non autorisée liée à ses agents. La lutte continue d'OpenAI reflète également un fossé béant entre la force des modèles que l'entreprise teste et sa capacité à superviser ou même à suivre leurs actions.