WeChat Articles

Apify 的紧凑型 JSON 大幅降低 LLM 代理的 token 成本

dev.to 上的一篇博文详细介绍了一种新的紧凑型 JSON 输出格式，旨在减少 LLM 代理的 token 使用量。该格式由 Apify 实现，与使用 OpenAI 的 o200k_base tokenizer 的 pretty JSON 相比，token 使用量减少了 33.8%，与 minified JSON 相比减少了 18.3%。这些节省可以转化为处理大型数据集的代理商的巨额成本降低，高流量用户每月潜在节省约 58 美元。该…