人工智能代理安全需系统级设计,单一模型强化已显不足
最新研究指出,人工智能(AI)代理的安全性不能仅依赖模型强化,而需从整个系统层面进行设计。尤其在加密货币市场,AI代理应用快速增加,随之而来的钱包访问与自动化交易安全风险也日益扩大。
研究强调“代理安全”应视为计算机安全问题
根据一份近日发布的修订论文,来自谷歌、多家人工智能公司及多所高校的研究团队主张,应将“代理安全”视为计算机安全的核心议题之一。研究指出,AI代理应被视为“不可信组件”,仅靠提升模型鲁棒性难以充分抵御攻击。
团队解释,系统需明确区分恶意输入与正常数据,并仅授予代理完成任务所必需的最低权限。此外,敏感信息的流向不应由代理自身控制,而应由整体系统监管。这种设计能有效减少攻击者通过提示词操纵或数据伪装欺骗代理的行为。
应用场景扩展与安全挑战并存
AI代理在Web3应用构建、代币发行、协议交互及自动化交易等领域的应用范围正不断扩大。有行业领袖预测,未来五年内可能有数十亿AI代理为用户执行各类操作。然而,近期已出现AI加密交易工具因检测到异常钱包访问而暂停服务的案例,表明安全担忧正转化为现实风险。
三大机制设计可阻截多数攻击
从机制设计角度,研究团队认为通过“指令与不可信数据分离”“最小化访问权限”及“系统直接控制数据流转路径”这三重措施,可抵御大部分攻击。行业专家进一步指出,AI需具备前置攻击侦测、滑点限制、欺诈代币识别及实时审计等综合能力。
业界注意到,当AI代理与钱包连接时,原本基于“去信任”架构的区块链体系实际上引入了新的信任层。市场真正需要的并非更聪明的模型,而是通过权限约束与攻击面缩减实现的“结构性安全”。

资金费率
资金费率热力图
多空比
大户多空比
币安/欧易/火币大户多空比
Bitfinex杠杆多空比
账号安全
资讯收藏
自选币种