跳到正文
热点事件持续更新

llm-echo 0.5 新增模拟 token 计数功能

1 篇报道1 个报道来源3 小时前更新

先了解这件事

AI 综述

llm-echo 调试插件的开发者 Simon Willison 发布了 0.5 版本,新增了对工具调用、系统提示和推理 token 的模拟使用量统计功能。 该插件本身不进行实际的大语言模型推理,仅用于调试,其功能是重复输入的提示内容。用户可通过示例命令输出模拟的推理过程和 token 使用数据。

AI 根据报道生成 · 2 小时前更新

报道时间线

沿着报道,了解事件的不同侧面。

10月19日
  1. Simon Willison
    llm-echo 0.5 发布:新增对工具调用、系统提示和推理 token 的模拟计数

    llm-echo 0.5 更新了模拟 token 使用计数功能,现在支持工具调用、系统提示和推理 token 的统计。该插件用于调试,不涉及实际 LLM 推理,仅重复输入的提示内容。示例命令 uvx --with llm-echo llm -m echo 'hi there' -o thinking 1 --usage 可输出模拟的推理过程和 token 使用量。

本事件热度走势

还没有足够的连续观测数据,暂不绘制趋势。