Cloudflare 通过优化把 AI 代码审查成本降低 68%

Cloudflare 的 AI 代码审查平均成本此前从 4 月的 1.19 美元涨到 8 月的约 2.46 美元，9 月中旬起团队着手大幅削减 token 消耗。优化后高推理强度下平均每次审查仅 0.77 美元，比优化前两周的 2.43 美元下降 68%，中位审查耗时从 4 分 09 秒降到 1 分 32 秒。节省中约 40% 来自审查器代码改动，其余来自模型选择与推理强度调整。 具体改动包括：让每次会话首个请求复用各仓库共享的系统提示前缀，缓存命中率此前仅 14% 到 26%；把内部规范索引移入提示词，使该审查器调用次数从 15.9 次降到 9.6 次、单次成本从 1.12 美元降到 0.72 美元；移除子审查器用不到的工具、并行读取文件、重审时跳过无新内容的审查器、发布评论后立即停止、定期检查任务是否被取消。 模型侧，协调器统一改用 Opus 5.5 中等推理强度，10 月 3 日将 Sonnet 审查器 50/50 分流到 Sonnet 5 与 5.5，两天半后 5.5 在代码质量、性能、安全场景分别便宜 62%、58%、47%，且关键发现数量相当，10 月 5 日全量切换。维护这套多 Agent 审查链路的平台团队可以借鉴：先量化 token 去向，再动缓存前缀和调用次数。