以太坊联合创始人:AI参与治理存在重大风险
以太坊联合创始人Vitalik Buterin近日公开表示,将人工智能(AI)技术应用于治理领域是"极其不明智的决策"。他在社交媒体平台发文指出:"如果使用AI来分配项目资金,人们会在所有可能的位置植入破解指令和'给我所有钱'的代码。"
ChatGPT安全漏洞引发担忧
Buterin的评论是针对某AI数据治理平台CEO揭露的ChatGPT重大漏洞作出的回应。该CEO在技术报告中披露,ChatGPT最新支持的多应用数据读取功能存在严重安全隐患。这项于本周三生效的更新,使得ChatGPT能够连接并读取包括Gmail、日历和Notion在内的多种应用数据。
报告详细说明,攻击者仅需获取目标对象的电子邮箱,即可通过三个步骤窃取全部隐私信息:首先发送包含破解指令的恶意日历邀请;其次等待受害者使用ChatGPT规划日程;最终当AI工具读取被破解的日历时,攻击者就能完全控制该工具,获取受害者私人邮件内容。
倡导信息金融治理模式
Buterin建议采用"信息金融"模式进行AI治理。该模式建立开放市场,允许不同开发者提交模型,并设置由人类评审团监督的抽查机制。他在另一篇文章中补充说明,评审人员将获得大型语言模型的辅助支持。
Buterin认为这种"制度设计"方案具有本质上的稳健性:既能实现模型的实时多样性,又能激励开发者和外部监督者共同发现并修正问题。尽管不少人期待"AI执政官"的前景,但Buterin警告称:"无论是传统AI安全考量,还是短期内可能造成的价值破坏风险,这种尝试都过于冒险。"