一位开发者推出了一种新的数据格式 TOON,旨在显著减少将 JSON 数组发送给 GPT 和 Claude 等大型语言模型时的 token 使用量。TOON 通过仅声明一次键然后逐行列出值来实现这一点,这可以将重复数据的 token 数量减少 30-60%。虽然不适用于深度嵌套或混合形状的数据,但对于那些频繁将相似对象的数组输入 LLM 的用户来说,这种格式提供了可观的成本节省和上下文窗口效率。还提供了一个免费的在线 TOON 转换器和 token 估算器。 AI
影响 降低了处理大型 JSON 数据集的用户在 LLM 上的运营成本并提高了上下文窗口效率。
排序理由 用于优化 LLM 提示效率的新数据格式。
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →