返回 文章 学习 CMS 文章

llm-echo 0.5 发布：调试插件更新模拟 token 计数

llm-echo 0.5 更新了模拟 token 计数，更准确地反映工具调用、系统提示和推理 token 的消耗。

SIMON WILLISON'S
llm-echo调试插件token计数LLM
成长分 / 100 47 综合收获、行动、留存与影响

为什么值得读了解 llm-echo 调试插件的最新功能改进

掌握模拟 token 计数如何考虑工具调用、系统提示和推理 token

关键洞察
  1. llm-echo 是一个不涉及 LLM 的调试插件，仅重复输入的提示
  2. 新版本更新了模拟 token 使用计数，将工具调用、系统提示和推理 token 纳入计算
  3. 示例展示了使用 echo 模型并输出 token 使用情况
转成行动

深入阅读

正文与原文对照

原文保真覆盖：全文原文字符：862

发布 llm-echo 0.5 — 为 LLM 提供 echo 模型的调试插件

我正在准备一个新的 LLM 版本，测试 PR 让我重新审视了 llm-echo 调试插件。这个插件提供了一个完全不涉及 LLM 的“模型”——它只是把喂给它的提示词原样重复回来。新版本现在更新了模拟的 token 使用量计数，将工具调用、系统提示词和推理 token 都纳入计算。

用法示例：

uvx --with llm-echo llm -m echo 'hi there' -o thinking 1 --usage

输出：

First I consider the prompt, then I decide what to say.
{
  "prompt": "hi there",
  "system": "",
  "attachments": [],
  "stream": true,
  "previous": []
}
Token usage: 2 input, 24 output