Nvidia lance une plateforme de sécurité IA après que Jensen Huang a jugé « étranges » les alertes d'Anthropic et OpenAI

Nvidia (NVDA) a publié l'Open Agent Safety Platform, qui vise à aider les développeurs d'IA à appliquer des mesures de protection sur les agents, quelques jours après que le PDG du géant du matériel d'IA a remis en question les approches de sécurité d'Anthropic et d'OpenAI.

« Le potentiel extraordinaire de l'IA pour la société ne sera réalisé que si nous résolvons la sécurité de l'IA », a déclaré le PDG de Nvidia, Jensen Huang, dans un communiqué de presse. « Alors que nous continuons à découvrir la frontière des capacités de l'IA, nous devons accélérer la découverte à la frontière de la sécurité de l'IA. La sûreté et la sécurité nécessitent une ingénierie complète. »

La semaine dernière, Huang s'est entretenu avec Ezra Klein du New York Times pour discuter des récents avertissements du PDG d'Anthropic, Dario Amodei, et du PDG d'OpenAI, Sam Altman, suggérant que le rythme du développement de l'IA pourrait menacer l'humanité.

« Si votre produit n'est pas prêt à être expédié, n'expédiez pas le produit », a déclaré Huang au podcast The Ezra Klein Show. « C'est la première fois que j'entends une entreprise ou un PDG dire qu'il a besoin... que les lois sur la responsabilité des produits soient assouplies afin qu'il puisse réguler son propre rythme. »