NVIDIA lanza plataforma abierta de seguridad para proteger agentes desde las pruebas hasta el despliegue

La plataforma de software abierto y el diseño de sistema de referencia reúnen a la industria, investigadores y organizaciones del sector público para establecer límites más seguros para los agentes de IA, compartir mejores prácticas y fomentar la cooperación internacional para elevar el estándar de despliegue de agentes de IA más seguros

Resumen de noticias:

• NVIDIA Open Agent Safety Platform consiste en el software de código abierto NVIDIA OpenShell y el diseño de sistema de referencia NVIDIA Sentry que permite la gobernanza y el control de pila completa a través del software y el hardware, los sistemas de computación y robótica que ejecutan agentes.
• El software OpenShell proporciona un límite de tiempo de ejecución seguro que rastrea todas las acciones y aplica políticas mientras los agentes se ejecutan en NVIDIA Vera CPUs. Como software de código abierto, OpenShell se puede extender para trabajar con plataformas de computación de terceros, incluidas las de Arm e Intel.
• Sentry añade un guardián (watchdog) fuera de banda que se ejecuta en NVIDIA BlueField-4 DPUs para monitorear continuamente el comportamiento de los agentes. Sentry puede poner en cuarentena en milisegundos a los agentes que intenten moverse fuera de sus límites.
• Líderes de la industria de todo el ecosistema de IA se unen a NVIDIA para fortalecer la seguridad de la IA para cada industria en toda la pila de infraestructura, software, modelos y robótica — incluyendo Anthropic, Cisco, CrowdStrike, Dell Technologies, Figure, HPE, Hugging Face, JPMorganChase, Microsoft, Palantir, Palo Alto Networks, Perplexity, Red Hat, Salesforce, SAP, Scale AI, ServiceNow y SpaceXAI.