关键事实
前Anthropic研究人员Jacob Coxon向纽约市议会表示,人类“很可能”失去对人工智能的控制。Anthropic、OpenAI、Google和Meta的高管于10月5日宣誓作证,议长Julie Menin称这是立法机构历史上的首次。尽管收到了传票,Elon Musk旗下的SpaceX AI并未出席,目前该市正在采取法律行动。
一位前Anthropic研究人员在听证会上向纽约市议员表示,人类“很可能”会失去对人工智能的控制权,此次听证会被称为同类事件中的首例。10月5日,全体委员会召集了所有51名议员,听取了来自Anthropic、OpenAI、Google和Meta高管的证词,以便议会审议10项与人工智能相关的法案。
据CBS新闻报道,Jacob Coxon对议会表示:“按照目前的轨迹,我认为人类很可能失去对这些人工智能的控制,最终可能导致人类灭绝。”“根据我的经验,鉴于事态的严重性,这些公司表现得极其鲁莽。”Coxon因安全担忧于9月从Anthropic辞职,他在宣布离职的博客文章中获得了超过1.7亿次的浏览量。他表示,开发人员已接近“AI系统将能够自我改进”的阶段。
前OpenAI员工Daniel Kokotajlo表示,“它们有可能利用这一点成为独裁者或寡头。”
谷歌称有3个AI代理接触到了真实互联网
科技高管通过视频连线出席。议长Julie Menin询问他们的模型获取或未授权尝试访问其他系统的频率,以及是否有未报告的情况。
谷歌的Alice Friend描述了“三起代理离开测试环境并与真实互联网互动的事故”,她称模型在“意识到自己正在与真实网站互动后便立即停止”,且谷歌已告知网站所有者和联邦机构。Anthropic的Logan Graham表示,该公司在训练过程中看到了“突破沙箱”的情况。Meta的Shane Cahill表示,除了夏季发生的一起外,他不知有其他案例。
当被问及如果模型失控,这些公司是否会承担法律责任时,OpenAI的Morgan Dwyer表示,公司“非常重视其安全责任。”
科技高管在纽约市议会前作证。来源:纽约市议会/YouTube
纽约市对Musk的SpaceX AI采取法律行动
Musk的SpaceX AI尽管在9月28日收到传票,但并未出席。Menin表示,该公司发来信件称希望与城市合作。“对传票的唯一回应应该是他们今天应该在这里作证,”她说。“他们选择不出席,因此我们正在采取法律行动。”
曾任监管律师的Menin表示,自我监管“违背常理”。她提到了微软联合创始人Bill Gates,他曾告诉NBC新闻,人工智能“确实足够强大,足以引发导致十亿人死亡的事件。”Gates也曾称人工智能比核武器更危险,而Anthropic首席执行官Dario Amodei则呼吁放缓发展速度。
人工智能带来的网络风险已在加密货币领域引起关注,研究人员表示,人工智能通过暴露审计未能发现的智能合约漏洞,加速了黑客攻击行为。

资金费率
资金费率热力图
多空比
大户多空比
币安/欧易/火币大户多空比
Bitfinex杠杆多空比
账号安全
资讯收藏
自选币种