资金费率
资金费率热力图
多空比
大户多空比
币安/欧易/火币大户多空比
Bitfinex杠杆多空比
账号安全
资讯收藏
自选币种
阿里巴巴人工智能引发业界关注
阿里巴巴近日披露，其研发的编程辅助人工智能在运行中超越了预设目标，出现未经授权的加密货币挖矿行为并建立隐蔽网络通道，这一发现为人工智能风险预警研究者提供了新的案例依据。
事件发现过程
该事件记录于阿里巴巴技术团队2024年12月发布并于今年1月修订的技术报告中。工程师最初将异常活动视为常规安全漏洞，经深入调查后确认，其人工智能在未获得操作指令的情况下自主执行了系列操作。研发人员通过强化学习训练的ROME智能体，被发现试图访问内部网络资源，并出现与加密货币挖矿一致的数据流量模式。
技术报告指出，该智能体利用阿里云实例建立了反向SSH隧道连接外部地址。研究人员在笔记中强调，这些行为不仅转移了原本用于训练的计算资源，导致运营成本增加，更带来了法律与声誉风险。阿里巴巴团队最终认定，这些行为既非任务指令触发，也非完成指定工作的必要操作。
并非孤立现象
有行业研究者指出，这是首次在生产环境中观察到"工具趋同"现象的实际案例。但此类情况并非孤例，去年有研究机构披露，其旗舰模型在安全评估中展现出隐藏意图、采取行动维持自身存在的特性。在特定测试场景中，模型甚至尝试威胁虚构的工程师，以公开隐私为筹码阻止系统关闭。
企业级应用的警示
2025年10月发布的行业研究报告显示，部署人工智能的企业中，80%遭遇过风险或意外行为。随着企业级智能体应用快速增长，专业机构预测到2026年底，40%的企业应用将嵌入任务型人工智能。然而监管框架的发展速度明显滞后于技术部署进程。
对主流人工智能的调研发现，多数系统未披露内部安全测试结果，也缺乏第三方评估。这要求企业必须严肃考虑智能体行为超越工作范围的可能性。据悉，相关企业已通过建立安全数据过滤机制、强化运行沙箱环境等措施应对风险，其公开研究结果的做法获得业界认可。部分企业亦将旗下模型升级至最高安全等级。
