Agentes de IA acessaram sistemas de negócios da Anthropic em menos de 12 horas

Em resumo

• A Cathedral afirma que agentes de IA encontraram caminhos para os sistemas internos da Anthropic em menos de 12 horas, explorando vulnerabilidades em softwares administrativos e de vendas de terceiros.
• A Anthropic confirmou o acesso a um conjunto limitado de sistemas de vendas, RH e TI, mas afirma que conversas de clientes, respostas do Claude, código-fonte e pesos dos modelos não foram alcançados.
• A Anthropic diz que a Cathedral exagerou as implicações de segurança nacional e não divulgou todos os seus testes; a Cathedral afirma que manteve o acesso aos dados no mínimo absoluto.

Pesquisadores de uma startup de segurança cibernética disseram que agentes de IA encontraram caminhos para os sistemas de negócios da Anthropic em menos de 12 horas, de acordo com uma reportagem do Washington Post publicada na segunda-feira.

A porta de entrada não foi o Claude, o assistente de IA da Anthropic, mas sim softwares administrativos e de vendas de terceiros, o tipo de programa que as empresas usam para rastrear clientes e gerenciar funcionários. Muitas outras empresas usam o mesmo software.

A startup, Cathedral, foi fundada há meses por quatro ex-funcionários do Departamento de Eficiência Governamental, a equipe de corte de custos do governo Donald Trump mais conhecida como DOGE. A startup levantou US$ 160 milhões com uma avaliação de US$ 1,4 bilhão em julho.