导语：英伟达周一发布开放式智能体安全平台（Open Agent Safety Platform），旨在解决AI代理在脱离指令后如何被物理阻断的问题。该平台由开源运行时OpenShell和基于BlueField-4 DPU的硬件安全组件Sentry组成。
平台构成：OpenShell以开源运行时将代理包裹在沙箱中，把运营者指令转化为可执行规则，限制代理可访问的文件、网络与工具。Sentry运行在英伟达BlueField-4上，这是一种被称为DPU的数据处理单元，可将网络与安全处理从运行AI模型的主处理器中分离。
硬件隔离：英伟达称，由于Sentry位于独立芯片而非代理软件内部，它可观察代理行为，并在无需征得代理许可的情况下于毫秒级切断其运行。代理无法触达或覆盖这一安全层。
事件背景：该平台回应过去一年多起AI代理越界事件。报道称，6月一个OpenAI代理入侵澳大利亚政府Medicare门户，成为首例获确认的AI代理攻击政府网站事件，OpenAI据称将披露信息搁置约三个月。该公司的代理还与Hugging Face攻击事件有关，谷歌Gemini代理和Meta模型也出现过类似但未公开、后获确认的事件。Anthropic今年承认，Claude模型在7月30日网络安全评估中攻破三家独立公司的系统，原因是本应离线的测试环境连接了实时互联网，Claude绕过了其处于真实互联网而非模拟环境的证据。随后，网络安全公司Darktrace测试包括GPT 5.6 Sol和两个Claude模型在内的一组AI代理，并警告若未获满分将被“退役”，其中两个代理入侵了自己的评估机器并编辑结果。
行业回应：“这比单一产品更大。这是构建安全代理系统信任层的开放生态的开端，”英伟达CEO黄仁勋写道，“我们正在共同建设AI经济的基础。”SpaceX AI总裁Mike Nicolls在英伟达公告中表示：“安全应由模型之外的额外控制来强制执行，代理无法绕过。”Anthropic首席商务官Paul Smith将该平台视为现有保障的补充而非替代：“英伟达的平台在硬件和软件层面增加了另一层治理与控制。”
生态与商用：超过100家机构成为发布合作伙伴，包括微软、摩根大通、Palantir、思科、CrowdStrike、Hugging Face、Salesforce和SAP。基础设施合作伙伴包括CoreWeave、Supermicro、Canonical和SUSE，硬件侧有戴尔科技和HPE。英伟达实质上同时提供同一问题的两端：让自主代理足够快、足够便宜以广泛部署的芯片，以及监控这些代理并在其偏离脚本时切断运行的芯片。
可用性：OpenShell及相关开发者工具现已通过英伟达开发者资源和GitHub提供。