segurança

Pesquisadores usaram o Claude para hackear contas do ChatGPT de funcionários da OpenAI

Explorações agênticas vencem (novamente)

Fale sobre o seu concorrente entrando pela porta. Pesquisadores de segurança usaram o Claude da Anthropic para ajudar a invadir contas do ChatGPT de funcionários da OpenAI.

Um trio de caçadores de bugs pesquisando fraquezas de segurança em laboratórios de IA de fronteira encadeou duas vulnerabilidades para assumir o controle de várias contas do ChatGPT de funcionários da OpenAI, e então usou esse acesso para demonstrar que poderiam alcançar um repositório interno da OpenAI abrindo uma pull request inofensiva.

Todo o cronograma, desde a descoberta inicial até o acesso ao repositório da OpenAI, levou menos de 72 horas e rendeu aos pesquisadores uma recompensa de $6,500 do programa de bug bounty da OpenAI no Bugcrowd.

“Até dois meses atrás, qualquer usuário ou funcionário da OpenAI que fizesse login no próprio fórum de ajuda da OpenAI (community.openai.com) poderia ter tido suas contas do ChatGPT e Codex dominadas”, disseram os pesquisadores da Hacktron Harsh Jaiswal, Mohan Pedhapati e Rahul Maini em um texto sobre sua pesquisa. “Como as pessoas podem conectar vários serviços ao Codex e ChatGPT, o escopo do que poderíamos teoricamente acessar era enorme, incluindo GitHub, Slack e e-mails.”