Simon Willison 更新了他的 llm-echo 调试插件,以更好地模拟 LLM 发布版的 token 用量。最新版本 0.5 现在在其用量计数中考虑了工具调用、系统提示和推理 token。此增强功能允许开发人员在测试期间更准确地跟踪 token 消耗,如通过输入和输出 token 计算示例所示。 AI
影响 通过提供更准确的 token 用量模拟用于测试,增强了 LLM 开发工具。
排序理由 该条目描述了对特定 LLM 调试工具的更新,而不是核心 AI 发布或重要的行业事件。
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →