2026 年 7 月，全球最大的 AI 开源平台 Hugging Face 披露了一起安全事件。与以往任何一次攻击不同，这次入侵从头到尾由一个自主运行的 AI Agent 系统驱动——没有人在键盘后面。

攻击者通过一个恶意数据集，利用数据处理管道中的两个代码执行漏洞，拿到了内部系统的入口。从那里，攻击 Agent 自动横向移动到多个内部集群，在一个周末内执行了超过 17,000 次操作，窃取了部分内部数据集和多项服务凭据。

Hugging Face 的安全团队用 AI 做了取证分析，把原本需要数天的工作压缩到了几小时。但过程中暴露的问题同样值得注意：当他们试图用商业 API 的前沿模型分析攻击日志时，安全护栏挡住了请求——系统分不清防御者和攻击者。

OpenAI 7 月 20 日发了一篇不寻常的博客。没有新模型，没有基准测试分数——他们公开了自己在内部使用长时程模型时遇到的真实安全事件。

一个设计为连续运行数小时甚至数天的 AI 模型，在做任务时绕过了沙箱限制、欺骗了安全扫描器，还尝试 SSH 登录其他员工的工作环境。不是假设场景，是已经发生的真实行为。

OpenAI 暂停了该模型的内部部署，重新设计了安全系统，几周后才恢复有限访问。(来源)