'Pensamentos Internos' de Grandes Modelos de IA Expostos em Exploração Massiva

Em resumo

• Uma equipe de pesquisadores descobriu que a Anthropic, a OpenAI e o Google utilizam uma única chave de criptografia global para tokens de raciocínio de IA.
• Ao decodificar 315,320 blocos de raciocínio extraídos de repositórios públicos do GitHub e do Hugging Face, os pesquisadores recuperaram 182 credenciais, incluindo 62 chaves de API ativas, 33 senhas e 30 endereços de e-mail pessoais.
• OpenAI, Anthropic e Google implementaram correções no lado do servidor após a divulgação responsável, mas os registros de sessão históricos já compartilhados publicamente permanecem decodificáveis.

Pesquisadores de segurança encontraram uma maneira de ler os "pensamentos internos" criptografados de todos os principais modelos de raciocínio de IA — e descobriram 62 chaves de API ativas e 33 senhas enterradas em registros de sessão que desenvolvedores compartilharam publicamente on-line sem saber o que havia dentro deles.

“Ao decodificar 315,320 blocos de raciocínio extraídos de repositórios públicos, recuperamos 367 artefatos de Informações de Identificação Pessoal (PII) e 182 credenciais”, escreveram os pesquisadores.

O artigo, enviado em 10 de agosto por uma equipe da MATS Research, do ELLIS Institute Tübingen, do Max Planck Institute for Intelligent Systems e da empresa de segurança Snyk, visa uma classe específica de IA: modelos de raciocínio. Estes são modelos que não apenas respondem imediatamente e, em vez disso, começam com uma cadeia de pensamento interna (um bloco de notas passo a passo onde a IA resolve um problema antes de mostrar a resposta), para então entregar uma resposta final.