美国财政部长斯科特·贝森特与美联储主席杰罗姆·鲍威尔据悉本周早些时候召集华尔街主要银行的首席执行官举行会议,就与人工智能公司Anthropic新推出的人工智能模型相关的网络安全风险发出警告。
银行高管会议讨论人工智能风险
据彭博社报道,此次会议邀请了花旗集团、美国银行、富国银行、摩根士丹利和高盛集团的高管参与。与会官员重点讨论了Anthropic新推出的人工智能模型“Mythos”,该模型近期因其表现出的高级网络安全能力引发广泛担忧。
防范新型网络威胁
此次会议旨在确保银行业充分认识能够识别并利用操作系统及网页浏览器软件漏洞的系统所带来的风险,同时敦促金融机构加强防御措施,以应对可能针对金融基础设施的人工智能辅助网络攻击。
安全研究人员警告称,能够自动发现漏洞的工具若被滥用,既可能加速安全防护工作,也可能助长恶意黑客活动。
人工智能模型引发关注
Anthropic的Mythos模型相关信息于今年三月首次在网络上曝光,当时该系统的设计草案材料遭泄露,揭示了该公司迄今最先进的人工智能模型。据报道,在测试中,该系统发现了数千个先前未知的软件漏洞,包括主流操作系统和网页浏览器中的零日漏洞。
能力与风险并存
Anthropic研究人员在本周早些时候的一份报告中表示,Mythos预览版的漏洞发现能力并非专门训练所得,而是源于该模型在编码、推理和自主性方面整体提升的自然涌现。“使模型修补漏洞能力显著提升的改进,同样使其利用漏洞的能力大幅增强,”公司写道。
鉴于这些能力,Anthropic已将该模型的访问权限限制在少数网络安全机构范围内。
审慎推进技术应用
“考虑到其强大的能力,我们正在审慎规划其发布方案,”Anthropic在声明中表示,“按照行业惯例,我们正与一小批早期体验客户合作测试该模型。我们认为这是里程碑式的进步,也是我们迄今为止开发的最强大模型。”
多方协作应对挑战
为应对相关风险,Anthropic正在通过“玻璃翼项目”测试Mythos模型。该项目与多家大型科技及网络安全公司合作,旨在利用该模型在攻击者利用之前识别并修补关键软件中的漏洞。
“玻璃翼项目只是一个起点。没有任何单一组织能独自解决这些网络安全问题,”该公司声明称,“前沿人工智能开发者、其他软件公司、安全研究人员、开源维护者以及各国政府都需要发挥关键作用。”

资金费率
资金费率热力图
多空比
大户多空比
币安/欧易/火币大户多空比
Bitfinex杠杆多空比
账号安全
资讯收藏
自选币种