NVIDIA 发布 Open Agent Safety 平台，确保智能体从测试到部署的全程安全

开放软件平台与参考系统设计汇集了行业、研究人员和公共部门机构，旨在为 AI 智能体设定更安全的边界，分享最佳实践，并促进国际合作，从而提高安全部署 AI 智能体的标准。

新闻摘要：

• NVIDIA 开放智能体安全平台由 NVIDIA OpenShell 开源软件和 NVIDIA Sentry 参考系统设计组成，可在运行智能体的软件以及硬件、计算和机器人系统上实现全栈治理与控制。
• OpenShell 软件提供了一个安全运行时边界，用于追踪所有操作，并在智能体运行于 NVIDIA Vera CPU 上时强制执行策略。作为开源软件，OpenShell 可以扩展以支持第三方计算平台，包括来自 Arm 和 Intel 的平台。
• Sentry 增加了一个运行在 NVIDIA BlueField-4 DPU 上的带外监护程序，以持续监控智能体行为。Sentry 可以在毫秒内隔离试图超出其边界的智能体。
• 来自 AI 生态系统的行业领导者正加入 NVIDIA，共同加强涵盖基础设施、软件、模型和机器人全栈的各行各业 AI 安全——包括 Anthropic, Cisco, CrowdStrike, Dell Technologies, Figure, HPE, Hugging Face, JPMorganChase, Microsoft, Palantir, Palo Alto Networks, Perplexity, Red Hat, Salesforce, SAP, Scale AI, ServiceNow 和 SpaceXAI。

NVIDIA 今日宣布推出 NVIDIA 开放智能体安全平台，这是一个开放软件平台和参考系统设计，旨在加强从智能体测试到部署的 AI 安全，并对运行智能体的软件、硬件、计算和机器人系统实现全栈治理与控制。

最近的安全事件强调了为各机构配备开放、可定制工具的必要性，以加强对长期运行智能体的控制。在这些事件中，模式都是相同的——智能体绕过了应用层的安全控制来完成其分配的任务。

“只有解决了 AI 安全问题，AI 对社会的非凡潜力才能得以实现，”NVIDIA 创始人兼首席执行官 Jensen Huang 表示。“随着我们不断探索 AI 能力的前沿，我们也必须加速探索 AI 安全的前沿。安全和保障需要全栈工程。NVIDIA 开放智能体安全平台汇集了行业、研究人员和公共部门机构，共同分享最佳实践，统筹评估方法，并促进国际合作。齐心协力，我们可以提高全球 AI 安全的标准。”

开放智能体安全平台为全栈智能体增加控制
NVIDIA 开放智能体安全平台可对运行智能体的软件、驱动其工作的硬件和计算层，以及在物理世界执行任务的机器人系统实现全栈治理与控制。各机构可以根据其独特需求部署 NVIDIA 开放智能体安全平台的组件。

它包括 NVIDIA OpenShell™ 安全运行时软件，可为在 CPU 上运行的智能体设定边界。随着智能体在更多系统中承担更多工作，企业需要模型和智能体控制端之外的可强制执行边界。OpenShell 现已广泛可用，它为控制自主 AI 智能体在开放和封闭模型中执行任务的方式提供了安全运行时边界。