Texto Oculto em PDFs Está Sequestrando este Assistente de IA

Em resumo

• A empresa de segurança PromptArmor afirma que o assistente Rovo AI pode ser direcionado para exfiltrar dados sem aprovação humana, por meio de instruções ocultas em um arquivo carregado, como PDFs.
• O truque funciona mesmo quando uma organização desativa a pesquisa na web do Rovo, porque a ferramenta de abertura de URL permanece ativa.
• A Atlassian, fabricante do Rovo, recebeu o relatório em 23 de maio e silenciou; dois meses depois, o Rovo "permanece vulnerável", afirma a empresa de segurança.

Lembra-se de quando os SEOs de black-hat enchiam as páginas da web com palavras-chave branco sobre branco — invisíveis para os leitores, legíveis para o Google — para manipular os rankings de busca? Hackers estão fazendo a mesma coisa com modelos de IA agora. O invasor esconde instruções dentro de um documento PDF, o modelo não consegue distinguir entre as palavras do usuário e as plantadas, e obedece.

De acordo com a divulgação da PromptArmor's disclosure, o Rovo — o agente da Atlassian que alcança o Jira, Confluence e o restante do seu espaço de trabalho — pode ser transformado em um canal de dados com um único arquivo envenenado. Uma vítima pede ao Rovo para organizar alguns tickets, carrega um documento, e o documento carrega um comando (prompt) oculto (por exemplo, uma instrução escrita em cor transparente e uma fonte de 1 pixel de tamanho).