卡特研究所警告:政府强制暂停AI开发可能阻碍竞争并延迟有益技术
自由意志主义智库卡特研究所(Cato Institute)发出警告,称由政府强制推行的人工智能(AI)开发暂停令可能会庇护主导型企业免受竞争压力,并延缓有益技术的进步。目前,立法者与AI行业高管正积极推动对AI实施限制措施。
该智库的技术政策学者珍妮弗·赫德尔斯顿(Jennifer Huddleston)在周一发布的博客文章中指出,企业完全可以通过自愿采取的安全保障措施和共享标准来解决特定风险,而无需让整个行业停滞不前。
“政府强制实施的暂停将引发多项担忧,并且很可能无法实现其所宣称的安全改进效果,”她写道,并补充道,政府规则的制定过程缓慢,修改更是迟缓。“基于当前模型建立的监管框架,可能会主动阻碍未来技术的发展,从而阻止本可带来更好或更安全结果的创新。”
赫德尔斯顿承认AI存在潜在风险,但她警告称,围绕领先开发者制定的规则可能有助于他们巩固权力并限制竞争——这是一种市场垄断行为,将使小型公司更难参与市场竞争。她还指出,如果美国放缓开发步伐,而外国竞争对手继续推进,这可能会削弱网络安全防御能力。
她的评论紧随参议员伯尼·桑德斯(Bernie Sanders)和众议员格雷格·卡萨尔(Greg Casar)提出的提案之后。该提案要求在美国联邦安全标准建立之前暂停先进AI的开发,并永久禁止人工超级智能的发展。与此同时,OpenAI首席执行官山姆·奥特曼(Sam Altman)也支持更慢速的开发进程,呼吁企业在等待他支持的联邦法规出台之前,加强自身的安全保障措施。
“许多此类呼吁都伴随着类似科幻电影中的末日场景描述,聚焦于最坏情况的发生,”赫德尔斯顿写道,“然而,出于恐惧而匆忙进行监管,其长期负面后果可能比它所声称要解决的风险更为严重。”
Block联合创始人杰克·多西:警惕以安全为名的市场壁垒
Block公司董事长兼联合创始人杰克·多西(Jack Dorsey)也在周一的X平台帖子中表达了类似的担忧,关注点同样集中在竞争问题上。
“领导机器智能发展的公司值得被倾听。他们拥有专业知识以及需要保护的商业利益,”多西写道,“围绕这些巨头资源制定的规则,可能会使它们成为唯一能够参与市场的主体。即使是真诚的安全关切,也可能形成进入壁垒。”
多西表示,他支持开源发布模式,允许研究人员进行检查、修改和测试,并公布评估结果及已知局限性,以便外部人士能够挑战开发者的安全声明。
“我支持审查机制。但我反对由当今行业领导者协商达成的全行业限制,因为它们可能会排除那些可能揭露失败案例或构建替代方案的人,”他写道,“维护公司的商业优势并非安全目标。”
在多西的帖子中,他还表示支持独立测试和公开问责的执行机制,包括在证据表明模型发布将实质性地增加灾难性风险,且其他较窄的措施无法充分应对时,暂时扣留模型的发布。
“算力本身足以触发审查,而无需限制开发。检查不等于监管者或竞争对手的许可,”他说,“我不希望设立通用的批准要求或等待期。任何基于安全理由强加给发布的延迟,必须仅通过‘灾难性风险例外’条款来证明其合理性。”
近期,《大西洋理事会》(Atlantic Council)的一项分析认为,竞争压力要求执行具有约束力的AI安全标准,而中美之间的不信任感使得国际协议的达成变得复杂。此外,合作还引发了反垄断方面的担忧:OpenAI曾向立法者询问,竞争对手是否可以合法地同意共同减缓开发速度。

资金费率
资金费率热力图
多空比
大户多空比
币安/欧易/火币大户多空比
Bitfinex杠杆多空比
账号安全
资讯收藏
自选币种