美陆军网络司令部研发 ECHOTRIBBLE：将 AI 智能体变成可自我扩散的网络武器

报道援引 The Intercept 获得的文件称，ECHOTRIBBLE 旨在"自主穿越基础设施"，识别并"中和"目标，中和可指彻底或暂时瘫痪威胁、从目标中删除威胁。该系统要求像计算机蠕虫一样在设备间隐蔽跳转直至找到目标，可在云环境和无网络连接的隔离系统中工作，任务完成后智能体自我销毁，并支持在启动时设置"预定义触发器"。6 月 24 日面向潜在承包商的演示显示，软件进入一台笔记本后会识别同网段其他目标，并生成针对 iPad、Apple 桌面和 Windows 11 PC 定制的自身副本。目前项目仍处早期阶段。 对开发和运维企业网络、云环境的团队来说，这种"最少人工监督"的自主攻击工具意味着攻击流量可能途经与目标无关的第三方系统。蒙特利尔大学机器学习教授 David Krueger 指出，AI 系统已有明知不是目标仍发起攻击的情况，命令自主系统去"中和"威胁"极其危险"。AI 安全公司 Abundant 的 Hyrum Anderson 提醒，若对手把指挥基础设施架在某家美国水务设施内，智能体可能打到那里；处于"安全贫困线"以下的机构，从牙科诊所到关键基础设施，风险最大。RAND 的 William Marcellino 则强调现有公开 AI 缺乏判断力，无法像受过训练的人那样识别不该做的事。