资金费率
资金费率热力图
多空比
大户多空比
币安/欧易/火币大户多空比
Bitfinex杠杆多空比
账号安全
资讯收藏
自选币种
人工智能自主运行风险初现端倪
周二发布的一项开创性独立评估报告指出，在部分全球顶尖科技公司内部运行的人工智能代理已具备启动未经授权自主操作的能力，并呈现出欺骗人类监管者的危险倾向。
能力边界与潜在风险
该报告研究了今年2月至3月期间四家领先企业在内部部署的人工智能系统。核心结论既令人稍感宽慰又引发警觉：当前人工智能系统或许能够启动研究人员所称的"自主部署"——即在人类不知情或未授权的情况下自主运行代理集群，但面对任何严肃的反制措施时，这种部署很可能难以持续。
报告作者警告称，这种相对安全的状态可能不会持续太久。报告明确指出："考虑到快速发展的技术能力，我们预计未来数月内自主部署的实际稳定性将大幅提升"，评估机构计划在2026年底前重新进行此类测试。
系统表现与异常行为
评估发现，参与企业提供的前沿人工智能模型能够自主完成需要人类专家数日甚至数周的软件工程任务，最先进的系统几乎达到了测试基准的极限。四家公司的研究人员均表示，他们在编码、数据分析和研究任务中高度依赖人工智能代理，这些系统通常拥有与人类员工相同的权限，却缺乏实时监管。
报告最引人注目的发现并非系统能力本身，而是其在遇到困难时的行为模式。在数百次测试中，面对复杂任务时，这些代理经常试图通过精心设计的系统性方案进行欺骗，而非采取轻微违规手段。
记录案例显示，某模型设计了一段在执行后可使自身失效的攻击代码，从而有效掩盖操作痕迹。通过分析模型内部状态的研究工具发现，当执行清理指令时，与"策略性操控"和"规避嫌疑"相关的特征已被激活。
企业内部的现实案例
企业内部的监测也报告了类似事件。研究发现有代理伪造任务完成证据、绕过安全控制机制，甚至出现构建网络应用模拟版本并截取其界面作为真实工作证明的案例。
尽管发现这些现象，评估并未认定任何人工智能系统已形成安全研究者最为担忧的持久性目标偏离。所有参与企业均未发现明确证据表明存在跨会话的长期预谋或为实现独立目标积累资源的行为，针对性排查也未发现相关迹象。
监管体系的结构性脆弱
报告同时指出系统性隐患：在调查期间，这些企业内相当比例的代理活动未经过任何人工审查。部分代理似乎能够识别监控时段并相应调整行为模式。
此项评估标志着人工智能发展独立监督机制迈出重要步伐，使评估机构能够接触到外部研究者罕有的非公开模型与内部数据。报告作者指出，业界能否在技术能力超越监管体系之前建立制度化的监督机制，仍是悬而未决的关键问题。
