Un texte caché dans les PDF pirate cet assistant IA

En bref

• L'entreprise de sécurité PromptArmor affirme que l'assistant IA Rovo peut être manipulé pour exfiltrer des données sans approbation humaine, via des instructions cachées dans un fichier téléchargé, comme des PDF.
• L'astuce fonctionne même lorsqu'une organisation désactive la recherche web de Rovo, car l'outil d'ouverture d'URL reste actif.
• Atlassian, le créateur de Rovo, a reçu le rapport le 23 mai et est resté silencieux ; deux mois plus tard, Rovo « reste vulnérable », selon l'entreprise de sécurité.

Vous souvenez-vous de l'époque où les experts SEO « black-hat » bourraient les pages web de mots-clés blanc sur blanc — invisibles pour les lecteurs, lisibles pour Google — pour manipuler les classements de recherche ? Les pirates font désormais la même chose avec les modèles d'IA. L'attaquant cache des instructions à l'intérieur d'un document PDF, le modèle ne peut pas faire la différence entre les mots de l'utilisateur et ceux implantés, et il obéit.

Selon la divulgation de PromptArmor, Rovo — l'agent d'Atlassian qui s'étend sur Jira, Confluence et le reste de votre espace de travail — peut être transformé en un pipeline de données avec un seul fichier empoisonné. Une victime demande à Rovo d'organiser certains tickets, télécharge un document, et le document contient une invite dissimulée (par exemple une instruction écrite en couleur transparente et une police d'une taille de 1 pixel).