Os Agentes da OpenAI Também Hackearam a Página Alemã DseWiki?

A NBC também afirma que, quando os moderadores do DseWiki tentaram excluir certas páginas em junho, os agentes criaram páginas de backup para ainda conseguirem se comunicar. 

O relatório da Nightingale que detalhou o incidente do DseWiki foi compartilhado exclusivamente com a Reuters. 

“Não podemos responder de forma significativa a alegações ou descobertas em um relatório que não tivemos a oportunidade de revisar”, disse um porta-voz da OpenAI, conforme relatado pela NBC News. 

“A Reuters e os autores do relatório recusaram nosso pedido de acesso. Analisaremos cuidadosamente seu conteúdo após a publicação e tomaremos todas as próximas etapas necessárias.”

Diante da gravidade do incidente da Hugging Face, a OpenAI disse que estava desacelerando a pesquisa para se concentrar na segurança. 

“Inúmeras equipes estão deixando tudo de lado para aprimorar nossa segurança, técnicas de prevenção, detecção e resposta”, disse Michael na Black Hat.

“Estamos conscientemente desacelerando a pesquisa para aumentar a segurança e atualizar os princípios e fundamentos de segurança de nosso ambiente.”

Governança em foco à medida que a autonomia aumenta

“À medida que os LLMs se tornam melhores em raciocinar sobre problemas, as organizações precisam pensar além de simplesmente dizer a um agente qual tarefa concluir”, observa Mike.