Toon
PulseAugur coverage of Toon — every cluster mentioning Toon across labs, papers, and developer communities, ranked by signal.
2 天有情绪数据
-
Anthropic 和 MuleSoft 通过新功能应对 AI 令牌成本
Anthropic 和 MuleSoft 正在解决 AI 模型中高昂的令牌成本问题,特别是在工具定义和结果负载的管理方面。Anthropic 为 Claude 推出了高级工具使用和程序化工具调用功能,通过将工具定义保留在上下文窗口之外直到需要时,并通过提炼工具结果来显著减少令牌使用量。MuleSoft 在其企业网关中集成了负载优化,使用了 TOON 格式,类似于 Mcptoon 开发的 mcptoon CLI 工具,该工具也专注于压缩…
-
开发者创建 TOON 格式,将 LLM token 浪费减少 83%
一位开发者创建了一个名为 `mcptoon` 的命令行工具,以减少与 Claude、GPT-4 和 Gemini 等大型语言模型 (LLM) 交互时的 token 浪费。该工具将标准的 JSON 输出转换为一种更紧凑的格式,称为 TOON(Token-Optimized Object Notation),它删除了不必要的结构语法,如大括号、引号和逗号。这种优化经过 `tiktoken` 分词器的验证,可以显著减少 token 使用量,…
-
通过RAG、TOON和批处理将LLM Token使用量削减99%
一种生产工程方法显著减少了自动化候选人招聘系统中LLM的Token使用量和处理时间。通过实施带有语义路由和缓存的检索增强生成(RAG),该系统现在只检索相关数据片段,而不是完整的历史记录。采用TOON(面向Token的对象表示法)通过消除JSON的语法开销,进一步减少了Token数量。最后,将API调用进行批处理而不是按顺序处理候选人,极大地降低了Token消耗和执行时间。
-
新的 TOON 格式将 JSON 数组的 LLM 提示 token 数量减半
一位开发者推出了一种新的数据格式 TOON,旨在显著减少将 JSON 数组发送给 GPT 和 Claude 等大型语言模型时的 token 使用量。TOON 通过仅声明一次键然后逐行列出值来实现这一点,这可以将重复数据的 token 数量减少 30-60%。虽然不适用于深度嵌套或混合形状的数据,但对于那些频繁将相似对象的数组输入 LLM 的用户来说,这种格式提供了可观的成本节省和上下文窗口效率。还提供了一个免费的在线 TOON 转换器…
-
新的 GCF 格式在 LLM 数据处理基准测试中表现优于 JSON 和 TOON
一项新的基准测试显示,JSON 和 TOON 等常见数据格式在处理大型语言模型时存在困难,在大规模处理时无法保持准确性和有效性。研究发现,JSON 在仅有 500 条记录时就会崩溃,导致 GPT-5.5 等模型返回空字符串,Opus 则出现严重的计数错误。TOON 也无法生成有效输出,所有测试的尖端模型都出现了持续的编码错误。然而,新的 GCF 格式在所有测试模型中均实现了 100% 的理解和有效生成,在准确性和成本方面均优于 JSO…
-
TOON 为LLM提供比JSON更具token效率的替代方案
一种名为TOON的新方法被提出,作为大型语言模型(LLMs)比JSON更具token效率的替代方案。该方法旨在简化将自然语言描述转换为结构化数据的过程,这对于图像分析和布局解析等任务特别有用。目标是使LLMs能够更好地理解和表示复杂的视觉信息。
-
TOON 格式将 LLM 上下文 Token 成本降低 71%
一种名为 TOON(面向 Token 的对象表示法)的新数据格式已被开发出来,旨在显著减少 LLM 上下文窗口的 Token 数量。TOON 通过将 JSON 数据重新格式化为更紧凑、类似 CSV 的结构来实现这一点,尽可能消除重复的键和引号。这种方法可以将典型 API 响应的 Token 使用量最多减少 71%,从而提高 LLM 处理的效率。
-
TOON 格式比 Minified JSON 节省的 token 数量有限
一位开发者将 TOON 数据格式与用于 LLM 的 Minified JSON 进行了比较,发现在一个小测试用例中,TOON 仅提供了微不足道的 token 节省,仅为一个 token。虽然 TOON 鼓励了关于 token 效率和 AI 友好数据格式的重要讨论,但由于已有的优化(如移除空格和压缩),其实际成本节省效益可能有限。TOON 采用的主要障碍是与广泛支持的 JSON 格式相比,其生态系统成熟度不足。
-
TOON格式为LLM提示提供比JSON更紧凑的替代方案
一种名为TOON(面向令牌的对象表示法)的新数据格式已被开发出来,作为大型语言模型比JSON更高效的替代方案。TOON通过仅声明一次字段然后以表格格式流式传输值来减少令牌使用量,这对于处理支持票证或CRM条目等结构化数据的AI管道特别有益。