prompt-flamegraph

新工具可视化 LLM Prompt Token 使用情况并检测浪费

一款名为 prompt-flamegraph 的新开源工具已发布，旨在帮助开发人员可视化和分析其 LLM Prompt 中的 Token 使用情况。该工具会生成一个交互式 HTML 火焰图，按类别细分 Token 消耗并估算成本。它还能识别潜在的浪费，例如重复文本、过大的检索增强生成 (RAG) 上下文、冗长的聊天历史记录或过多的已声明工具，并提供优化建议。