跳到正文
Simon Willison·· 4 小时前AI 评分15

llm-echo 0.5 发布:新增对工具调用、系统提示和推理 token 的模拟计数

llm-echo 0.5

AI 导读

llm-echo 0.5 更新了模拟 token 使用计数功能,现在支持工具调用、系统提示和推理 token 的统计。该插件用于调试,不涉及实际 LLM 推理,仅重复输入的提示内容。示例命令 uvx --with llm-echo llm -m echo 'hi there' -o thinking 1 --usage 可输出模拟的推理过程和 token 使用量。

来源:Simon Willison · simonwillison.net