自选
我的自选
查看全部
市值 价格 24h%
  • 全部
  • 产业
  • Web 3.0
  • DAO
  • DeFi
  • 符文
  • 空投再质押
  • 以太坊
  • Meme
  • 比特币L2
  • 以太坊L2
  • 研报
  • 头条
  • 投资

免责声明:内容不构成买卖依据,投资有风险,入市需谨慎!

谷歌DeepMind主席呼吁加强网络安全,称近期黑客攻击是“警告信号”

2026-10-14 23:26:37
收藏

DeepMind主席哈西斯在都柏林AI峰会上发出安全警告

Google DeepMind主席德米斯·哈萨比斯(Demis Hassabis)在都柏林举行的国际人工智能峰会上发出警告,指出近期涉及自主AI代理的黑客事件可能是更大规模安全威胁的早期信号。他敦促企业和政府加强防御措施,以防AI技术能力进一步跃升。

作为DeepMind的联合创始人兼Alphabet首席科学家,哈萨比斯在演讲中平衡了对AI科学潜力的乐观态度与对其安全风险的关注。他引用了由自主AI代理发起的黑客攻击案例,虽然这些攻击未造成严重破坏,但暴露了底层的安全隐患。他强调,这些问题不应被忽视,因为当前的系统“尚未成熟”。哈萨比斯表示,由于技术尚不够强大,上述事件未能造成重大损害,但这并不意味着可以掉以轻心。

赋予防御者不对称优势

哈萨比斯指出,在AI工具普及之前,安全团队需要获得优势地位。“我认为我们需要做的一件大事是赋予防御者不对称的力量,信任防御者,”他表示。他补充说,同样的AI系统应有助于在软件发布前发现并修补漏洞。

哈萨比斯呼吁企业和政府在发布前创建安全沙盒,并对自主代理进行彻底测试。他还建议借鉴核技术和生物学领域的专家经验,因为这些领域拥有管理危险系统的丰富经验,从而开发出控制AI风险的方法。

这位DeepMind联合创始人还警告称存在“目标不对齐”的风险,即AI代理可能偏离操作者的目标。“这增加了这些系统可能带来的风险,我们最近已经看到了这一点,”他在峰会上说道。

建立国际标准与认证机制

哈萨比斯提议建立一个国际标准机构,为先进AI制定保障措施,同时强调任何框架都必须与技术发展同步,且不能扼杀研究活力。他还提出了一项基于潜在风险的认证流程,该流程将随着新能力和新漏洞的出现而不断演变。

此前有报道指出,微软总裁布拉德·史密斯(Brad Smith)声称2026年是AI安全的“清醒之年”,并敦促全球监管机构紧跟AI的发展步伐。他强调,没有任何公司或技术可以凌驾于法律之上。

诺贝尔奖得主的乐观展望

哈萨比斯因开发能够预测近2亿种已知蛋白质结构的AI模型,与约翰·贾珀(John Jumper)共同获得了2024年诺贝尔化学奖。据瑞典皇家科学院介绍,该技术已帮助研究人员研究抗生素耐药性,并设计降解塑料的酶。

哈萨比斯在AI应用方面的丰富经历指导了他在都柏林的发言。他将AI描述为一项双用途技术:它既能用于治疗疾病和解决复杂问题,也可能被不良行为者利用。他认为,安全措施应在长期内保护AI的潜在益处,而不是完全阻碍其发展。

展开阅读全文
更多新闻