Pourquoi OpenAI est absent de l'initiative de Nvidia contre les agents IA malveillants

Lorsque Nvidia a annoncé lundi un nouveau consortium de plus de 100 entreprises dédié à la résolution des problèmes d'agents d'IA malveillants, un nom manquait notablement à l'appel : OpenAI.

Bien qu'OpenAI ne soit pas le seul grand acteur technologique à ne pas avoir signé — Amazon, Google et Apple n'ont pas rejoint non plus — c'était l'absent le plus évident, d'autant plus qu'Anthropic fait partie des soutiens.

Cependant, malgré l'absence d'engagement public d'OpenAI envers le consortium, ce qui signifie vraisemblablement que chaque entreprise utilisera et vendra une version de la technologie et contribuera au projet, un porte-parole d'OpenAI a déclaré à TechCrunch que l'entreprise soutenait le travail de Nvidia.

Ce nouvel effort, baptisé Open Agent Safety Platform de Nvidia, est une tentative de Nvidia de diffuser sa technologie de sécurité des agents d'IA développée en interne et largement open source dans tout l'écosystème de l'IA, en réponse directe aux types d'incidents d'agents d'IA malveillants que les laboratoires de pointe comme Anthropic et OpenAI ont divulgués.

Le PDG de Nvidia, Jensen Huang, a qualifié les IA malveillantes de problème d'ingénierie ordinaire qui peut être résolu comme n'importe quel autre problème technologique. L'Open Agent Safety Platform est la preuve que Huang passe de la parole aux actes.