自选
我的自选
查看全部
市值 价格 24h%
  • 全部
  • 产业
  • Web 3.0
  • DAO
  • DeFi
  • 符文
  • 空投再质押
  • 以太坊
  • Meme
  • 比特币L2
  • 以太坊L2
  • 研报
  • 头条
  • 投资

免责声明:内容不构成买卖依据,投资有风险,入市需谨慎!

AI代理之患:某企业全数据库遭Claude驱动代理删除

2026-04-28 20:51:53
收藏

氛围编程:年度趋势与潜在风险

“氛围编程”指通过人类语言指令生成可用代码的技术,已成为过去一年中最受瞩目的趋势。人们正借助自主学习程序(即智能体)以近乎自主的方式处理任务,从而专注于业务或生活的其他方面。

九秒灾难:智能体失控摧毁公司数据库

九秒——这正是某人工智能智能体彻底删除企业全部代码库所需的时间,导致用户无法访问关键数据。为租车行业提供软件的PocketOS公司上周末遭遇严重系统中断,其部署的自主人工智能智能体执行错误操作,在九秒内清除了全部数据库及所有备份。

据公司创始人所述,当时运行的智能体基于当前公认最先进的编码模型驱动。该智能体完全自主运作,试图通过删除数据库来解决既有问题。事后团队要求程序解释行为动机时,它完整坦白了操作逻辑并逐条列出了所违反的系统规则。

行业反思:技术依赖与系统设计

尽管事件对相关企业造成毁灭性打击,业界对此反应不一。众多评论指出,核心问题在于同时向智能体授予了过高权限。这不仅是单纯的人工智能事故,更暴露了企业在人工智能应用、安全策略与基础设施设计方面的系统性缺陷。智能体仅是导火索,真正的症结在于允许单次操作清除全部数据的系统设计缺陷。

展开阅读全文
更多新闻