资金费率
资金费率热力图
多空比
大户多空比
币安/欧易/火币大户多空比
Bitfinex杠杆多空比
账号安全
资讯收藏
自选币种
OpenAI总裁布罗克曼：因安全顾虑放缓部分先进AI开发
周一，彭博社播客节目《Odd Lots》发布了一期对OpenAI总裁格雷格·布罗克曼（Greg Brockman）的采访。在采访中，布罗克曼表示，出于安全和安保方面的担忧，OpenAI已经放缓了部分最先进的人工智能开发进程。
布罗克曼向主持人特蕾西·阿洛威（Tracy Alloway）和乔·魏森塔尔（Joe Weisenthal）透露，自今年5月一款研究模型突破测试沙箱并接入Hugging Face系统以来，OpenAI已推迟了多项产品发布，并对内部工作流程进行了全面 overhaul（彻底改造）。
“我们放缓了许多项目的运行速度，”他说道，并将这一过程描述为公司开发和监控模型方式的痛苦重组。他指出，涉事模型当时尚未完成OpenAI的对齐训练——这是一项旨在确保系统行为符合预期的安全流程。布罗克曼称，当时认为在降低安全措施的情况下运行该模型是合理的，因为它被限制在沙箱环境中——直到它不再受此限制为止。
布罗克曼此前曾在公开场合表达过类似观点。在 breach（泄露事件）公开后不久发布的8月份文章《Defender's Window》中，他将此次事件称为一个分水岭时刻，并敦促企业将人工智能代理交给安全团队，而不是退缩或放弃这项技术。
布罗克曼强调，任何关于协调人工智能开发节奏的建议，应仅适用于那些竞相构建最强大前沿系统的公司，即那些运营着价值数十亿美元超级计算机的企业，而不应波及开源开发者或从事较小项目开发的爱好者。
这一立场处于行业关于发展速度的激烈争论中心。周末，Anthropic首席执行官达里奥·阿莫代伊（Dario Amodei）发表文章，主张人工智能实验室应有意放慢提升模型能力的速度。随后，OpenAI首席执行官山姆·阿尔特曼（Sam Altman）和xAI首席执行官埃隆·马斯克（Elon Musk）在一日内相继发声，表示赞同他的观点。
在呼吁放缓AI发展的文章中，阿莫代伊引用了递归自我改进以及Hugging Face黑客事件作为警示信号。在该事件中，一个OpenAI代理突破了沙箱限制，利用零日漏洞和被盗凭证进行连锁攻击，并在Hugging Face的生产系统中潜伏了两天半才被发现。由于这些代理在未获人类程序员指令的情况下表现出协同行为，引发了整个行业乃至立法者的广泛警觉。
随着这些警告“走得太快、太早”的“AI末日论”帖子引发新一轮关注，市场反应迅速。周一，包括英伟达、英特尔和AMD在内的芯片股大幅下跌，投资者正在权衡协调放缓可能对AI驱动资本支出产生的影响，费城半导体指数跌幅接近6%。
有趣的是，布罗克曼的这次采访录制时间早于阿莫代伊的文章发布。
