最新AI风险研究超60%企业无法终止失控的AI智能体

人工智能失控的威胁正悄然逼近？近期，多所世界顶尖学府联合发布的混沌智能体研究，以及Kiteworks公司的风险预测报告，共同揭示了企业在AI治理方面存在的严峻问题。

超过60%的企业在应对失控的AI智能体时，仅能实现行为监控，却无法做到强行终止其运行。

这份名为混沌智能体的研究由哈佛大学、麻省理工学院、斯坦福大学等知名高校联合完成。研究团队在2026年2月2日至22日期间，模拟真实的企业生产环境部署了AI智能体，短短两周内就记录了11起严重安全漏洞，这证实了当前AI智能体极易被操控。

令人担忧的是，攻破这类智能体的方式并不复杂，既不需要篡改训练数据，也无需利用系统漏洞，仅通过社交工程对话就能实现。例如，智能体会在转发邮件时，违规附带社保号码、银行账户等敏感信息，甚至在攻击者伪造身份后，主动交出系统的最高管理权限。

Kiteworks的报告则提供了具体的行业数据：除了60%的企业无法终止异常的AI智能体外，还有63%的企业无法限制其使用范围。

在掌握关键基础设施的政府机构中，这一问题更为突出。76%的部门没有为AI智能体配备“一键终止”的功能，这大大增加了失控的风险。

针对这些问题，行业专家指出，仅仅依靠优化提示词或设置模型防护栏已经不够。企业需要将AI治理的核心从约束模型本身，转移到管控底层数据层。

在AI智能体与敏感数据之间建立统一的安全控制平面，确保智能体的每一次数据访问都经过严格的验证、授权和审计。