自选
我的自选
查看全部
市值 价格 24h%
  • 全部
  • 产业
  • Web 3.0
  • DAO
  • DeFi
  • 符文
  • 空投再质押
  • 以太坊
  • Meme
  • 比特币L2
  • 以太坊L2
  • 研报
  • 头条
  • 投资

免责声明:内容不构成买卖依据,投资有风险,入市需谨慎!

AI 新闻:OpenAI悬赏研究人员寻找潜在风险 —— 而其内部安全团队已不复存在

2026-04-09 06:17:08
收藏

OpenAI启动安全研究资助计划,内部安全团队却已悄然解散

本周OpenAI发布的AI动态显得尤为尖锐:该公司推出了一项外部安全研究资助计划,为研究高级AI潜在风险的外部学者提供每周3,850美元的津贴。而就在数小时前,《纽约客》发布调查报告披露,OpenAI已解散了内部安全团队,并在其企业章程中悄然删除了“安全”相关表述。

这项于4月6日宣布的资助计划将持续六个月。入选者将获得每周3,850美元的生活津贴、每月价值约15,000美元的计算资源以及OpenAI研究员的指导,但无法访问公司内部系统。优先研究方向包括安全评估、伦理规范、系统鲁棒性、规模化风险缓解、隐私保护方法、智能体监督及高危害滥用防范等领域。申请已于5月3日截止,入选者将在7月25日前获得通知。

计划宣布同日曝出内部安全团队解散消息

《纽约客》记者罗南·法罗同期报道披露,自2024年以来,OpenAI已相继解散了超级对齐团队、AGI准备团队和使命对齐团队。报道中特别提到,当记者询问能否联系OpenAI的生存安全研究员时,公司代表反问道:“您所说的生存安全是指什么?这似乎并非一个正式概念。”

OpenAI将该项目定位为“支持独立安全与对齐研究、培育下一代人才的试点计划”。除生活津贴外,研究员每月还可获得约15,000美元的计算资源支持。该计划不仅面向AI专家,还欢迎网络安全、社会科学、人机交互等跨学科背景的研究者参与。

外部资助能否弥补内部安全架构缺失?

值得关注的是时间点的巧合。据《纽约客》调查,在22个月内,OpenAI连续解散了三个内部安全组织。超级对齐团队于2024年5月两位联合负责人离职后关闭,其中一位在离开时指出“安全文化和流程已让位于光鲜的产品”。AGI准备团队于2024年10月解散,使命对齐团队则在2026年2月结束了仅16个月的运作。

资助计划明确表示不取代内部架构。研究员仅能获得API额度与计算资源,无法接触内部系统,表明该计划本质上属于保持距离的研究资助,而非对已解散团队的重建。

研究要求与行业影响

研究议程涵盖七大优先领域。到2027年2月项目结束时,每位研究员须产出实质性成果,包括论文、基准测试或数据集。OpenAI强调更看重研究能力、技术判断力和执行能力,而非特定学术资历。

前沿AI公司安全承诺的可信度已成为影响资本配置的市场信号。投资者密切关注OpenAI的支出轨迹及其运营重点的可信度,尤其在AI基础设施与区块链系统交叉领域日益增长的背景下。外部研究员在无法接触内部系统的情况下,能否对模型发展产生实质性影响,将成为2027年初首批研究成果需要回答的关键问题。

展开阅读全文
更多新闻