资金费率
资金费率热力图
多空比
大户多空比
币安/欧易/火币大户多空比
Bitfinex杠杆多空比
账号安全
资讯收藏
自选币种
科技巨头私下模拟人工智能灾难应对方案
OpenAI、Anthropic 及其他科技公司的领导层正在私下进行模拟演练，以应对由人工智能引发或加剧的灾难。这些演习的重点主要集中在针对银行、互联网或能源网络的网络攻击上，尽管目前尚未发生此类规模的真实事件。
核心要点
- OpenAI 和 Anthropic 通过模拟潜在灾难来预见重大 AI 相关危机。
- 考虑的场景包括对银行、互联网和关键基础设施的网络攻击。
- AI 网络安全技术的进步加剧了对先进模型进攻性能力的担忧。
- 企业正在制定政治应对策略，以管理政府和美国国会的反应。
- 尽管行业协调努力持续推进，但事故管理在很大程度上仍依赖于自愿承诺。
多场景模拟演练
这些演习首先旨在预测重大攻击带来的政治和社会后果。参与者试图确定如何遏制事件、迅速通知政府，并响应暂停受影响系统的请求。这些准备工作的存在主要源于 Axios 基于匿名内部消息来源的报道。OpenAI 确认组织了此类演习，但未承认与 Anthropic 存在正式的联合计划，也未公布宣布灾难的时间表。
提及的主要场景包括：
- 能够扰乱银行或支付系统的网络攻击；
- 大规模的互联网访问中断；
- 对电力或供水网络的攻击；
- 可下载模型的非法使用；
- 失去对具有高度自主性的实验系统的控制；
- 导致 AI 限制措施迅速出台的政治反应。
OpenAI 声称其进行“准备性演习，团队在其中讨论并研究各种潜在场景”。然而，该公司明确指出，这些事件“不被视为不可避免”。Anthropic 对此信息未置评论。
网络安全风险对 OpenAI 而言变得更加具体
准备工作不仅是为了应对理论上的威胁。最近的模型在漏洞研究、自主编程以及无需持续人工干预即可执行多步骤任务方面取得了进展。因此，OpenAI 将其网络安全能力评估中的 Astra 模型列为“关键”级别。根据其内部评估，该模型能够在具备适当工具和访问权限的情况下，发现未知漏洞，然后设计方法在高度保护的系统中利用这些漏洞。
这种分类并不意味着 Astra 已经实施了真实的攻击。它表明其能力跨越了一个阈值，需要在部署前增强保护措施。OpenAI 表示，为了测试这些措施，他们推迟了某些开发阶段。同样的技术也能帮助防御者更快地检测和修复漏洞。风险在于其双重性质：用于防御性网络安全的技能也可以降低发起攻击所需的时间、成本和专业知识。
一些匿名引用的行业官员认为，严重事件可能在未来的六到十二个月内发生。这一评估仍属个人预期，并非 OpenAI 或 Anthropic 确认的预测。
同时准备应对美国国会的反应
模拟还将涵盖事故发生后的最初几个小时。公司希望向民选官员快速展示攻击原因，提供链上数据、模型的确切作用以及遏制损害所需的措施。这种准备旨在解决一个政治难题。灾难发生后，国会可能会在技术责任完全确立之前就受到行动压力，从而可能提出全面禁令、暂停某些模型或新的监管义务。
因此，公司致力于准备文件、联络人和升级程序。他们还希望避免将第三方模型的非法使用自动归咎于开发者，或将其等同于内部控制的丧失。这种方法涉及明显的利益冲突。开发相关系统的公司也希望影响在潜在 AI 事故后制定的规则。他们的准备可以改进应对措施，但不能替代独立的调查或公众监督。
事故响应仍 largely 依赖自愿机制
前沿模型论坛（Frontier Model Forum）汇集了 Anthropic、亚马逊、Google DeepMind、Meta、微软和 OpenAI 等公司。其成员在 2025 年签署了一项自愿协议，旨在交换关于可能导致严重危害的漏洞、威胁和能力方面的信息。
该论坛区分了三种机制：危机前的信息共享、定义事件后的 AI 事故报告，以及随后的旨在遏制损害和恢复系统的运营响应。这些机制仍在发展中。Anthropic 应用其自身的“负责任扩展政策”，而 OpenAI 则使用涵盖网络、生物、化学、操纵和失控风险的准备框架。
这些内部政策可能会施加评估、延迟发布或增加保护措施。然而，它们仍然是部分自愿的，并且在各公司之间存在差异。据报道，这些演习并不能证明 OpenAI 和 Anthropic 预期会发生特定的灾难。相反，它们表明实验室现在认为重大危机足够可信，值得为其技术、政治和媒体应对做准备。
