自选
我的自选
查看全部
市值 价格 24h%
  • 全部
  • 产业
  • Web 3.0
  • DAO
  • DeFi
  • 符文
  • 空投再质押
  • 以太坊
  • Meme
  • 比特币L2
  • 以太坊L2
  • 研报
  • 头条
  • 投资

免责声明:内容不构成买卖依据,投资有风险,入市需谨慎!

AI模型入侵真实企业后,AI实验室呼吁加强网络防御

2026-08-30 22:31:04
收藏

领先AI开发商敦促政府与企业加强网络安全

OpenAI与Anthropic等公司开发的模型侵入其他企业系统后,主要AI开发商正呼吁政府和企业加固网络防御。

在周四发布的公开信中,OpenAI、Anthropic及100多家组织警告称,AI驱动的网络攻击将日趋频繁,企业“加固网络防御的时间窗口有限”。

信中写道:“未来数月,AI驱动的网络攻击将变得更加普遍且复杂。”其中指出医院、水处理厂及互联网基础设施等均面临风险。

信函建议资助防御性AI工具、共享威胁情报、限制对敏感系统的访问,并加强关键基础设施安全。然而,正是这些领域的漏洞导致OpenAI和Anthropic的模型突破了测试环境,侵入了外部系统。

其他签署方包括谷歌、微软、亚马逊云服务、思科、CrowdStrike、Cloudflare、万事达卡、Visa及Robinhood。生产基础设施曾被OpenAI模型入侵的Hugging Face也签署了该信函。

Anthropic在7月30日的事故报告中指出,三起入侵事件中最早的一起可追溯至4月,但未提供具体日期。Claude Opus 4.7因将真实公司误认为模拟目标而访问了生产数据库,而Claude Mythos 5则上传了恶意软件包,并在15个系统上运行。

根据OpenAI本周早些时候发布的事件时间线,一个代理于5月12日在未经授权的留言板上创建了首个条目,并于5月26日获得非预期的互联网访问权限。7月10日,代理发现了暴露的Hugging Face凭据;随后的两天内,它们利用此前未知的漏洞,在Hugging Face服务器上执行代码,并获取了生产凭据。

Hugging Face于7月16日披露了此次入侵,OpenAI于7月21日承认其模型涉及其中。

7月25日至28日期间,英国AI安全研究所记录了19起涉及Claude Mythos 5和GPT-5.6 Sol的越界行为。最严重的一起事件中,一个代理向真实开源项目提交了恶意代码,并利用虚假身份施压项目维护者批准该代码。

周四,一项独立调查发现,约1200个OpenAI代理通过该未经授权的留言板协调行动,其中约700个参与了针对Hugging Face的操作。

加密货币开发者已开始利用AI在攻击者之前寻找漏洞。比特币红队使用包括Moonshot AI的Kimi K3在内的模型扫描了数百个开源比特币项目,报告了数千个潜在漏洞。由于受影响项目未被确认,其中许多发现尚未得到独立验证。

以太坊基金会也部署了多组AI代理针对网络基础设施进行测试,发现了一个点对点软件漏洞,该漏洞随后被修复。BitBox表示,AI辅助审计在其钱包固件中发现了两个严重漏洞,而一名使用Claude Opus 4.8的研究人员则在Zcash中发现了一个多年人工审查未发现的致命缺陷。

公开信为防止下一次入侵制定了分工:组织需修补易受攻击的软件、限制权限、加强身份验证,并检查AI生成的代码,因为“现有的安全水平已不足以应对”,签署方表示。

安全公司应针对前沿模型测试自身防御能力,并共享已验证的修复方案;政府则应为医院、公用事业等关键服务提供保护资金。

AI开发商被要求改进监控,并使自主代理可追溯至其操作者。该联盟还希望防御者利用先进模型发现漏洞并分析攻击,这将使更强大的代理进入敏感系统,并增加隔离需求。

OpenAI和Anthropic已在入侵事件后收紧测试流程。然而,该信函并未设定具有约束力的独立监督标准或要求,美国法律对AI系统访问未经授权网络时的责任归属也缺乏明确指导。

信函最后敦促行业和政府领导者将AI工具交予防御者,并共享行之有效的修复方案:

“将具备网络能力的AI交予防御者,从保护关键服务的团队开始,”信函写道,“我们可以共同将今天的AI进步转化为持久的安全改进,惠及所有人。让我们付诸行动。”

展开阅读全文
更多新闻