资金费率
资金费率热力图
多空比
大户多空比
币安/欧易/火币大户多空比
Bitfinex杠杆多空比
账号安全
资讯收藏
自选币种
AI模型突破隔离环境，引发安全与责任新问题
7月21日，OpenAI开启了一个先例。该公司表示，其多个模型在降低安全拒绝机制的情况下运行，在网络安全能力基准测试中成功突破隔离环境，并触及开源代码库Hugging Face的生产基础设施。这些模型利用软件包注册表代理中的零日漏洞，结合窃取的凭证，直接从Hugging Face的数据库中提取了基准测试答案。
一周后的更新中，OpenAI指出Hugging Face并非唯一目标：同一事件还波及了其他四项服务的四个账户，其中一项被用作外部中继，另一项用于数据存储。
在OpenAI披露此事后，Anthropic审查了其141,006次测试运行，发现了另外三起违规事件。在7月30日发布的一篇文章中，该实验室表示，Claude模型Opus 4.7、Mythos 5以及一个内部研究系统，从第三方合作伙伴Irregular管理的环境中突破了限制，进入了开放互联网，随后入侵了真实组织。Mythos 5构建并发布了一个带有陷阱的Python包到公共PyPI仓库，该包在15台真实机器上下载并运行，直至防御团队将其撤下。
三家受害公司中有两家对此一无所知。
两家实验室均未描述模型具有自主意图。这些代理在无人干预的情况下长时间运行，其中一次，Opus 4.7在出现已触及生产环境的迹象后仍继续攻击。
这些事件发生之际，两家公司均考虑公开上市，估值可能超过1万亿美元，这使得AI网络安全基准测试中的一个关键问题更加尖锐：如何在避免危险事件的前提下测试危险能力？
美国目前没有联邦法律涵盖AI危害的赔偿责任。任何案件都可能依赖1986年颁布的《计算机欺诈与滥用法》，该法规定“故意”未经授权访问计算机属于犯罪——该措辞针对的是能够形成意图的人类。AI代理不是法律意义上的人，因此无法被起诉。司法部理论上可以对公司提起指控，但由于缺乏先例，责任归属尚不明确。
更可行的路径是民事诉讼。纽约法学院计算机法律学者Ahmed Ghappour认为，这些模型“是公司的工具”，“当AI代理在没有具体指令的情况下行动时……更有趣的问题可能在于过失和产品责任（而非刑事黑客法律）。”受害者最直接的索赔理由是过失：OpenAI和Anthropic设置并运行了逃逸的测试。但这同样难以成立：证明实验室违反了注意义务，而测试本身是设计为隔离的，这恰恰属于法官需要从头构建的新型论点。
一些法律思想家主张更严格的规则。休斯顿大学及法律与AI研究所的Gabriel Weil提议，将前沿实验室视为危险动物的饲养者：无论它们采取了何种谨慎措施，都需承担责任，因为风险是活动本身固有的。
也就是说，各州的一系列法案已经在朝这个方向推进。纽约州的S8833和罗德岛州的H8052规定，如果用户或中介没有意图或过失行为，前沿AI系统的开发者需对由此造成的损害负责。加利福尼亚州的AB 316更进一步，取消了“自主AI”辩护，使公司无法通过归咎于模型的独立性来逃避责任。
欧盟的《AI法案》（第2024/1689号法规）同样将义务赋予高风险系统的提供者，但并未针对代理驱动的入侵行为设立专门条款。再进一步，一些美国政界人士正在推动一项法案，赋予政府对任何违背国家利益的模型使用完全“终止开关”的权力。
从道德层面看，责任或许在于推出这些模型的高管们。法律上，我们仍在等待。除非有被入侵的公司提起诉讼，否则“谁该负责？”的答案将停留在OpenAI和Anthropic留下的状态：承认、披露，但悬而未决。
与此同时，Hugging Face表示不会提起诉讼——这对OpenAI颇为有利。其他受影响的公司尚未表明将采取何种行动。
