OpenAI cria nova estrutura para divulgar mau comportamento de IA

A OpenAI anunciou uma nova estrutura na quarta-feira para a forma como divulga publicamente incidentes de desalinhamento de IA, o que a empresa diz esperar que ajude a informar padrões semelhantes em toda a indústria. A empresa também está divulgando novas informações sobre vários exemplos de desalinhamento de modelos de IA que identificou no ano passado.

“À medida que os modelos avançam e se tornam mais amplamente implantados, as decisões sobre o desenvolvimento da IA precisam de evidências que pessoas fora das empresas que constroem modelos de fronteira possam examinar”, diz Kai Chen, o recém-nomeado chefe de pesquisa de alinhamento da OpenAI, à WIRED. “Não acreditamos que a indústria de IA tenha resolvido o alinhamento e o monitoramento em um grau suficiente para continuar escalando com responsabilidade na velocidade máxima.”

Em um briefing com a WIRED, um oficial da OpenAI disse que a empresa anteriormente divulgava incidentes de desalinhamento com pouca frequência. O oficial, que concordou com o briefing sob condição de anonimato, disse que a nova estrutura foi projetada para facilitar que a OpenAI informe rapidamente o público quando descobrir que seus modelos de IA estão se comportando de maneiras inesperadas, mesmo antes de poder investigar, explicar ou mitigar totalmente o comportamento.