llm-echo 0.5 发布,模拟 token 统计纳入工具调用与推理 token
决策简报
Brief- 发生了什么
- llm-echo 0.5 更新了模拟 token 用量计数,把工具调用、系统提示和推理 token 计入统计。
- 为什么重要
- Claude 相关更新会影响实际工作流、升级节奏和工具选择。
- 影响谁
- Claude
- 建议动作
- 升级或复核变更版本
- 地区可用性
- 暂未验证地区可用性差异。
关键事实
- llm-echo 0.5 更新了模拟 token 用量计数,把工具调用、系统提示和推理 token 计入统计。 [src-simonw-blog]
- 对于在接入真实模型前用 llm-echo 做调试的 LLM 插件开发者,模拟用量现在覆盖工具调用、系统提示和推理 token,使展示和成本预估更贴近真实调用。 [src-simonw-blog]
由事件证据自动生成。
llm-echo 是 Simon Willison 维护的 LLM 调试插件,提供一个不涉及真实大模型的“模型”,只把收到的提示词原样回显。0.5 版更新了模拟 token 用量计数,把工具调用、系统提示和推理 token 一并纳入统计。文中给出的示例用 uvx --with llm-echo 配合 llm -m echo 调用,并开启 thinking 与 --usage,输出显示 Token usage: 2 input, 24 output。 实际影响集中在开发 LLM 插件和调试提示流程的开发者:以前模拟计数只按简单输入输出估算,接入工具调用或推理 token 后数字会失真;现在在真实模型上跑之前,就能用回显模型核对用量展示和成本预估。
摘要依据:已读全文详摘依据上方标注的来源范围整理,内容以原文为准。
来源
- Simon Willison:Blog
Hands-on notes on LLM tools, local models, and practical AI engineering.
- Simon Willison:Blog
留言
登入后即可留言,和其他 builder 交换实测心得。
还没有留言,抢头香。