Anthropic altera política de uso para proibir abuso de modelos e interferência eleitoral

Anthropic atualizou sua política de uso na quinta-feira, codificando novas proibições sobre interferência eleitoral, software de armas e vigilância. Mas talvez a mudança que mais chame a atenção seja uma nova proibição contra o abuso verbal prolongado do modelo, que agora é expressamente proibido.

Desde uma atualização em agosto, o Claude foi treinado para encerrar conversas com “interações de usuários persistentemente prejudiciais ou abusivas” — mas a nova política proíbe explicitamente os usuários de prosseguirem com essas conversas.

“A atualização da política destina-se a ser aplicada apenas em casos extremos, onde os usuários agem repetidamente de forma cruel com nossos modelos, sem nenhum propósito discernível”, explica o post. “Ela não se aplica a versões comuns de frustração do usuário, resistência, temas criativos sombrios ou testes e pesquisas de modelos.”

A mudança ocorre depois que a Anthropic buscou colaborações com estudiosos religiosos proeminentes — em alguns casos, tentando convencê-los de que o Claude poderia ser consciente ou ter uma alma.

Seções separadas da política de uso proíbem os usuários de se envolverem em campanhas amplamente enganosas, como o uso do Claude para gerenciar contas falsas ou meios de comunicação fabricados. A política também inclui regras contra enganar eleitores ou perturbar eleições, reunidas em uma seção intitulada “Não Prejudique os Processos Democráticos”.