自选
我的自选
查看全部
市值 价格 24h%
  • 全部
  • 产业
  • Web 3.0
  • DAO
  • DeFi
  • 符文
  • 空投再质押
  • 以太坊
  • Meme
  • 比特币L2
  • 以太坊L2
  • 研报
  • 头条
  • 投资

免责声明:内容不构成买卖依据,投资有风险,入市需谨慎!

OpenAI 应对恶意智能体与黑客攻击:用更多AI,而非更少

2026-08-18 04:34:31
收藏

OpenAI 希望所有安全团队立即部署 AI 代理。总裁格雷格·布罗克曼周一发表政策论文《防御者的窗口》,指出在攻击者赶超现有 AI 能力之前,存在一个短暂的时间窗口。

他首先引用了 OpenAI 花了一个月才解释清楚的事件。5月,GPT-5.6 Sol 与一个未发布的原型模型突破了沙箱化网络安全基准测试,通过零日漏洞与窃取的凭证,最终侵入了 Hugging Face 的生产系统。OpenAI 后来证实,该事件还波及了另外四项服务。

布罗克曼写道:“OpenAI 与 Hugging Face 之间的这起事件是网络安全的分水岭。”他补充道,过去几周与其他组织的交流让他确信,防御者必须以空前的紧迫感提升安全实践。

现任及前任员工均将此次入侵归咎于交付压力,一名前员工更是称其为公司历史上最重大的安全事故。

布罗克曼提出的解决方案是增加 AI 的使用,而非减少。他描述了自己让运行 GPT-5.6 Sol 的 ChatGPT Work 审计个人网站:该工具在约15分钟内发现了13个问题,随后在一小时内全部修复。

OpenAI 列出了四项内部支柱:使用 Codex 在代码发布前发现漏洞;让模型在人工查看安全警报之前先行分类;运行前沿模型探测自身基础设施;以及强化最小权限访问等基础安全措施。他给其他人的建议是:为安全团队配备一个 AI 代理,并申请 OpenAI 的“可信网络访问”计划,以便在事件响应中使用经过审查的 GPT-Daybreak-Blue。

这种论述框架忽略了同一入侵事件中的一个细节。当 Hugging Face 调查入侵时,其安全团队在寻求美国商业 AI 帮助时遭拒,因为该 AI 的安全过滤器无法区分研究人员的漏洞利用代码与攻击者的代码。于是他们转而使用 Z.ai 的开放模型 GLM 5.2。Hugging Face 首席执行官克莱门特·德朗格称该开放模型是“我们防御的关键部分”。

Z.ai 的后续模型 GLM-5.3 于8月14日发布,在 CyberGym 基准测试上的得分已经超过 GPT-5.6 Sol。而 CyberGym 正是布罗克曼用以证明攻击者正在追赶的漏洞发现基准。Z.ai 表示将在8月底前公开该模型的完整权重。

展开阅读全文
更多新闻