Entenda por que a OpenAI está ausente do esforço da Nvidia para conter agentes de IA desonestos

Quando a Nvidia anunciou na segunda-feira um novo consórcio de mais de 100 empresas dedicado a resolver o problema de agentes de IA rebeldes, houve um nome notavelmente ausente: OpenAI.

Embora a OpenAI não tenha sido a única grande empresa de tecnologia que não assinou — Amazon, Google e Apple também não aderiram — ela foi a ausência mais óbvia, especialmente porque a Anthropic é uma apoiadora.

No entanto, apesar da falta de um compromisso público da OpenAI com o consórcio, o que presumivelmente significa que cada empresa usará e venderá alguma versão da tecnologia e contribuirá com recursos para o projeto, um porta-voz da OpenAI disse ao TechCrunch que a empresa apoia o trabalho da Nvidia.

O novo esforço, batizado de Nvidia’s Open Agent Safety Platform, é a tentativa da Nvidia de disseminar sua tecnologia de segurança de agentes de IA desenvolvida internamente e, em grande parte, de código aberto por todo o ecossistema de IA, como uma resposta direta aos tipos de incidentes contínuos com agentes de IA rebeldes que laboratórios de fronteira como Anthropic e OpenAI revelaram.

O CEO da Nvidia, Jensen Huang, vem chamando as IAs rebeldes de um problema comum de engenharia que pode ser resolvido como qualquer outro problema técnico. A Open Agent Safety Platform é Huang colocando suas palavras em prática.