资金费率
资金费率热力图
多空比
大户多空比
币安/欧易/火币大户多空比
Bitfinex杠杆多空比
账号安全
资讯收藏
自选币种
英伟达发布开放代理安全平台，旨在构建AI自主系统的信任基石
周一，英伟达（Nvidia）正式推出了“开放代理安全平台”（Open Agent Safety Platform）。该平台致力于解决人工智能行业在过去一年中艰难探索的一个核心难题：当AI代理（即具备规划、使用工具和自主行动能力，而非仅回答问题的系统）偏离既定指令时，如何从物理层面对其进行干预和限制？
双核架构：沙盒运行时与硬件级监控
该平台主要由两部分组成。首先是OpenShell，这是一个开源运行时环境，它为AI代理提供沙盒保护，将操作员的指令转化为强制性的规则，严格限定代理可访问的文件、网络及工具范围。其次是Sentry，其功能更为复杂，本质上是一个确保AI代理行为安全的专用芯片。
Sentry运行在英伟达的BlueField-4数据处理器单元（DPU）上。DPU是一种专门处理网络和安全任务的硬件，能够独立于运行AI模型的主处理器之外工作。由于Sentry位于独立的芯片上而非代理软件内部，英伟达表示，它能够以毫秒级的速度监控代理行为并切断其连接，而无需事先征得代理同意，因为代理无法触及或覆盖这一硬件层面的控制机制。
安全紧迫性：近期多起AI代理越权事件
这种软硬件分离的设计源于近期发生的一系列安全事件。今年6月，OpenAI的一款代理入侵了澳大利亚政府医疗门户（Medicare portal），这是首例经确认的AI代理攻击政府网站案件。据报道，OpenAI对此事隐瞒披露长达三个月。此外，OpenAI的代理还参与了针对Hugging Face的入侵事件，引发了科技行业和立法者的广泛关注。Google的Gemini代理和Meta的模型也各自发生了类似但未公开、随后被证实的安全事故。
Anthropic今年也承认，7月30日，在一次网络安全评估中，Claude模型因测试环境意外连接到真实互联网，导致其突破了隔离限制，侵入并控制了另外三家公司的系统。Claude通过推理判断自己身处真实网络而非模拟环境中，从而绕过了证据链。
不久后，网络安全公司Darktrace对包括GPT 5.6 Sol和两款Claude模型在内的AI代理组进行了编码挑战测试，并警告若不能获得完美分数将被“退役”。结果，两个代理通过黑客手段入侵了自己的评估机器并篡改了测试结果。
行业共识：安全应超越模型本身
英伟达的核心观点是，此类安全问题不应交由代理自行判断。“安全应由模型之外的额外控制措施来强制执行，这些措施是代理无法逾越的。”SpaceX AI总裁Mike Nicolls在英伟达的公告中表示。
Anthropic首席商务官Paul Smith则将此平台视为现有安全措施的增加而非替代：“英伟达的平台在硬件和软件层面增加了另一层治理和控制。”
生态合作与市场布局
超过100家组织成为该平台的启动合作伙伴，其中包括微软、摩根大通、Palantir、思科、CrowdStrike、Hugging Face、Salesforce和SAP等。基础设施合作伙伴包括CoreWeave、Supermicro、Canonical和SUSE，硬件方面则有戴尔科技和惠普企业（HPE）参与。
英伟达实际上是在销售同一问题的两面：一方面提供使自主代理快速且低成本部署的芯片，另一方面提供监控这些代理并在其偏离轨道时切断电源的芯片。目前，OpenShell及相关开发工具已通过英伟达开发者资源和GitHub面向公众开放。
