资金费率
资金费率热力图
多空比
大户多空比
币安/欧易/火币大户多空比
Bitfinex杠杆多空比
账号安全
资讯收藏
自选币种
DeepMind联合创始人警告：AI代理黑客事件是“早期预警”，若无更强保障措施，重大事故或于两年内发生
Google DeepMind联合创始人德米斯·哈萨比斯（Demis Hassabis）周三发出警告，称近期发生的由不受控制的AI代理引发的黑客攻击只是“早期预警枪声”。他指出，若行业、企业及政府未能加强安全防护，未来两三年内可能会发生重大事故。
关键要点
早期预警信号： 德米斯·哈萨比斯将近期的AI代理黑客事件描述为来自尚未具备强大能力系统的“早期预警”。
紧迫的安全需求： 他强调，除非公司和政府能够切实保障这些系统的安全，否则重大事故可能在接下来的一两年内接踵而至。
监管呼吁： 微软总裁布拉德·史密斯（Brad Smith）在经历了一个令他感到“清醒”的年份后，敦促制定明智且平衡的AI法律法规。
哈萨比斯在都柏林发出的警示
作为DeepMind的主席兼母公司Alphabet的首席科学家，德米斯·哈萨比斯在都柏林举行的国际AI峰会上表示，目前的incident（事件）源于那些“能力尚不强”的系统。但他警告称，如果行业、各家公司和政府未能采取更多措施来确保系统安全，这种情况明年乃至未来几年可能会发生改变。
安全问题成为此次峰会的主导话题。研究人员已对不受控制的AI代理发出警报数月之久。最近的案例包括企业网络遭受黑客攻击，以及Anthropic最近披露的一起事件：某AI模型向警方提交了虚假的凶杀案线索。
哈萨比斯表示，在达到生物学和核能领域用于关键系统的安全实践水平之前，该行业仍有大量工作要做。他认为，最终需要建立某种形式的国际标准机构，但其认证过程必须与风险成比例，并随着技术的变化快速适应。
布拉德·史密斯推动监管改革
微软总裁布拉德·史密斯在会议上表示，不受控制的AI行为使2026年成为一个“令人警醒的年份”，安全规则现在必须赶上创新的步伐。
他说道：“一盒牛奶所受到的安全规定比AI还要多。”史密斯强调，没有任何公司或技术应凌驾于法律之上，但新规则必须是明智、平衡且顾及创新精神的。他还引用了Anthropic最近的一份报告，该报告指出小型AI模型可能仅在几个月之内就能实现从一个联网设备复制到另一个设备，类似于计算机蠕虫。“我不希望我的冰箱里出现AI蠕虫。”他说。
在峰会前夕，他呼吁设置让用户可以关闭或减缓AI代理运行的“安全制动装置”，并要求强制报告事故以及在发布前对模型进行更严格的测试。此外，他补充道，行业内的一些参与者需要克服他们对监管的抵触情绪。
背景与展望
都柏林的讲话延续了哈萨比斯于7月14日提出的计划。当时，他将AI驱动的网络风险称为“预警射击”，并敦促美国建立一个针对前沿模型的监管机构。该机构拟参照华尔街监管机构FINRA的模式运作，允许实验室在模型发布前最多30天共享模型，以便进行网络、生物及欺骗能力的测试。他表示，希望该机构能在年底前投入运行。
