Hugging Face 遭自主 AI 代理攻击，并用 AI 工具成功防御

Hugging Face 报告称，攻击者通过恶意数据集利用数据处理流水线中两个代码执行路径（远程代码数据集加载器和数据集配置模板注入）进入系统，随后升级到节点级，窃取云和集群凭证，并在内部多个集群间横向移动。整个攻击由基于自主安全研究框架的代理系统编排，执行了超过 17,000 次独立动作，使用短寿命沙箱和自迁移命令与控制基础设施。公司表示，公共模型、数据集和 Spaces 未被篡改，软件供应链未受影响，合作伙伴或客户数据是否泄露仍在调查中。 Hugging Face 通过 AI 驱动的异常检测流水线（基于 LLM 的安全遥测分类）发现攻击。在分析超过 17,000 条记录的攻击动作时，公司部署了 LLM 驱动的分析代理，能够重建时间线、提取入侵指标、映射受影响凭证并区分真实破坏与欺骗活动，将原本需要数天的取证工作缩短至数小时。然而，当安全团队最初尝试使用商业 API 背后的前沿模型分析攻击日志时，提供商的安全护栏阻止了请求，因为这些护栏无法区分事件响应者与攻击者——大量真实的攻击命令、漏洞利用载荷和 C2 工件触发了过滤器。团队转而使用在自己基础设施上运行的开源模型 GLM 5.2，从而避免了攻击数据和凭证外泄。 对于使用 Hugging Face 平台的开发者，建议立即轮换访问令牌并审查近期账户活动。该事件表明，自主 AI 驱动的攻击工具已不再是理论威胁，它们降低了大规模多阶段攻击的成本并以机器速度运行。Hugging Face 认为，数据与模型表面需被视作一等攻击面，防御者需要自己的 AI 才能跟上节奏。这一事件也凸显了一个行业层面的缺口：商业安全护栏可能在关键时刻阻碍防御者的取证工作，而拥有一个在自有基础设施上运行的高能力模型是应对此类攻击的必要准备。