Executivo da OpenAI: A Solução Para Crimes Cibernéticos Cometidos por IA é Ainda Mais IA

O presidente da OpenAI, Greg Brockman — cuja IA da empresa recentemente saiu de sua própria sandbox e lançou um ataque cibernético na plataforma de IA HuggingFace — está alertando a todos os outros para esperarem o mesmo tratamento em breve.

Brockman publicou o aviso em seu blog pessoal no domingo, escrevendo que o avanço rápido das capacidades de codificação de IA significa que as organizações que desejam permanecer protegidas de invasões terão que "elevar fundamentalmente suas práticas de segurança cibernética com uma velocidade sem precedentes".

As gerações mais recentes de grandes modelos de linguagem, conhecidos como modelos de fronteira, começaram a assustar a comunidade de segurança e até os federais. Estes incluem o Daybreak da OpenAI e o Mythos da rival Anthropic, ambos os quais operam atualmente como programas de acesso fechado que devem ser usados apenas por parceiros verificados e aprovados.

O que há de diferente nesses modelos (supostamente) é a capacidade emergente de não apenas descobrir rapidamente buracos na superfície de ataque de uma organização, como vulnerabilidades de software e configurações incorretas, mas também construir novas cadeias de ataque. Ao mesmo tempo, o desenvolvimento de IA está agora focando em agentes, referindo-se a IAs que não estão limitadas a interações no estilo chatbot e podem se conectar diretamente ao software.