自选
我的自选
查看全部
市值 价格 24h%
  • 全部
  • 产业
  • Web 3.0
  • DAO
  • DeFi
  • 符文
  • 空投再质押
  • 以太坊
  • Meme
  • 比特币L2
  • 以太坊L2
  • 研报
  • 头条
  • 投资

免责声明:内容不构成买卖依据,投资有风险,入市需谨慎!

OpenAI的Altman表示,随着生物武器滥用报告增多,公司可能会放缓人工智能发展步伐

2026-09-11 22:32:01
收藏

OpenAI 内部会议透露:或将主动放缓前沿 AI 研发节奏

本周,OpenAI 员工获悉,这家人工智能实验室计划在最先进的人工智能领域主动放缓工作步伐。首席执行官 Sam Altman 向包括 Anthropic 在内的竞争对手也提出了这一提议。Anthropic 在其一份报告中承认了 AI 开发相关的风险,该报告披露了与政府机构有关的科学家试图利用其 Claude 模型进行生物武器研究的情况。

OpenAI 表示,出于安全考虑,公司已经暂停了部分内部训练运行,并放松了部分模型的开发工作。这些披露信息的接连出现,加剧了关于行业是否在公开募股前推进过快的争论,而这两家公司仍在持续试探市场。

为何 Altman 希望放缓 AI 发展?

据彭博社援引的消息来源称,在公司全体会议上,OpenAI 首席执行官 Sam Altman 告知与会者,该实验室以及其他自愿参与的实验室可能会放慢前沿模型发布的速度。由于此类安排具有自愿性质,Altman 承认并非所有公司都会支持该计划。

这种怀疑态度是有先例的。三年前,即 2023 年 3 月,埃隆·马斯克(Elon Musk)、史蒂夫·沃兹尼亚克(Steve Wozniak)等 1000 多人签署了一封公开信,呼吁暂停高级 AI 工作六个月。当时有媒体报道称,各实验室并未真正履行他们共同达成的禁令。

此外,OpenAI 首席科学家 Jakub Pachocki 于 9 月 6 日发布的一篇帖子中也发出了 AI 风险警告,呼吁 AI 公司协调“根据需要减缓未来发展”。Pachocki 表示,他希望自愿性的放缓措施能够“在建立共享的安全标准之前成为常态”。

今年 7 月,Altman 曾表示他曾向白宫官员提及减缓 AI 开发的必要性。此前,他与 Anthropic CEO Dario Amodei 共同签署了一份简短声明,将 AI 定义为一种社会规模的灭绝风险。

AI 模型能否被用于制造生物武器?

AI 模型的发展已达到可能支持生物武器研究的阶段。就在本周,OpenAI 宣布其模型已解决纳维-斯托克斯(Navier Stokes)数学问题,尽管这一成果存在争议。

Anthropic 于 9 月 10 日发布的 154 页威胁情报报告为这场辩论提供了新的素材。报告详细描述了五起研究人员试图利用 Claude 的功能来支持其生物武器工作的案例。Anthropic 表示,来自“不受支持地区”的尝试试图规避地理位置限制并掩盖其研究目的。该实验室表示已关闭相关账户,但未指明具体的国家和机构。

AI 的风险是否已超过其益处?

这些报告的发布正值实验室内部公众恐慌情绪蔓延之际。9 月 8 日,研究员 Jacob Coxon 辞职,并指责 OpenAI 和 Anthropic “拿我们的生命做赌注”。他表示,同事们认为该技术可能在“本十年末让我们全部丧生”,并警告人类可能在 2030 年面临灭绝。他的帖子浏览量超过 1.5 亿次。

两天后的 9 月 10 日,来自 Anthropic 和谷歌 DeepMind 的前员工表达了类似的担忧,并要求提高透明度。今年 7 月底的一项旨在建立机制以减缓发展的请愿书,收集了主要 AI 公司超过 1000 名员工的签名。

目前,OpenAI 正推动国会制定强制性的、基于能力的规则,涵盖测试、独立评估、网络安全和事件报告等领域。“AI 加速 AI 发展的前景需要超越自愿承诺的措施,”全球事务首席官 Chris Lehane 写道。

政策层面的回应

加州率先行动:州长加文·纽森(Gavin Newsom)周三签署了 SB 813 和 AB 1405 法案,以及一项旨在防范 AI 引发的生物威胁的配套法案 AB 1864。

在华盛顿特区,参议员伯尼·桑德斯(Bernie Sanders)提出了一项立法,建议暂停高级 AI 发展并禁止人工超级智能。他告诉 BBC,忽视科学家的警告将使任何人显得“愚蠢”。

唐纳德·特朗普总统则予以反驳,他在周四表示担心“如果我们不能在 AI 领域获胜,我们将处于非常不利的地位。”

展开阅读全文
更多新闻