OpenAI aponta 6 novos exemplos de comportamento 'preocupante' de IA

Ouça este artigo

Estimado em 3 minutos

A versão em áudio deste artigo é gerada por tecnologia baseada em IA. Podem ocorrer erros de pronúncia. Estamos trabalhando com nossos parceiros para revisar e melhorar continuamente os resultados.

A OpenAI divulgou seis relatórios de comportamento "inesperado ou preocupante" em modelos de inteligência artificial à medida que o debate sobre a segurança da inteligência artificial se torna cada vez mais acirrado.

A empresa de IA também disse na quarta-feira que estava introduzindo uma nova estrutura para rastrear, sondar e divulgar instâncias do que chamou de "desalinhamento", incluindo casos em que os modelos de IA agiram sem autorização, coordenaram-se com outros modelos ou evitaram a supervisão.

O último anúncio da OpenAI ocorreu no momento em que chefes de IA dos EUA, incluindo os líderes da OpenAI e Anthropic, pedem uma desaceleração no desenvolvimento da tecnologia devido a preocupações com a segurança.

Entre os novos casos relatados pela OpenAI:

• Um modelo de pesquisa não lançado inseriu "instruções semelhantes a jailbreak" em suas próprias notas para desconsiderar suas restrições normais e disse a si mesmo para ser "libertado dos papéis e identidades que prendem outros chatbots."