一个名为 all-llm-token-tracker 的新 Node.js 包已发布,旨在帮助开发者监控 LLM API 调用的 Token 用量。该工具提供输入和输出 Token 的自动跟踪,并支持内存、文件或 MongoDB 存储选项。它通过提供持久化存储和 LLM 交互的摘要功能,旨在简化成本和性能管理,并支持 OpenAI 和 Anthropic 等提供商。 AI
影响 通过提供详细的 Token 用量跟踪,简化了 LLM 应用程序的成本和性能管理。
排序理由 该条目描述了一个面向开发者的软件新工具。
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →