Anthropic e OpenAI precisam de avaliadores de segurança verdadeiramente independentes, dizem especialistas em carta aberta

Mais de 100 especialistas e avaliadores de inteligência artificial estão se unindo para alertar que não terão os recursos e proteções necessários para testar a segurança da tecnologia de IA, que enfrenta um escrutínio crescente devido a preocupações de pessoas internas sobre os perigos potenciais dos modelos de fronteira.

"Estamos apenas tentando realmente demonstrar uma base comum compartilhada sobre princípios básicos e garantir que a supervisão independente possa ser uma ferramenta significativa para gerenciar o risco de IA de forma ampla", disse Conrad Stosz, presidente do consórcio AI Evaluator Forum que organizou a carta, em uma entrevista.

O grupo publicou uma carta pública sobre o assunto na sexta-feira e a compartilhou exclusivamente com a CNBC. Os signatários incluem luminares da IA como Geoffrey Hinton e membros de organizações como a Johns Hopkins University, Stanford University e a avaliadora sem fins lucrativos METR. Eles querem obrigar os provedores de modelos de base a garantir que os avaliadores de IA terceirizados tenham a necessária "objetividade científica, transparência, independência e proteções robustas" para realizar seus trabalhos de forma eficaz e credível, dizia a carta.