Belcore 披露 GPT-5 上下文管理中的 token 节省差异

作者 PulseAugur 编辑部 · [1 个来源] · 2026-11-09 01:42

一位隶属于 Belcore 的开发者详细介绍了 token 节省如何根据计数方法而变化，使用了带有 GPT-5 的 LongMemEval-S 基准测试。分析显示，与重新发送对话历史记录相比，使用内存层时上下文 token（-93.9%）和计费输入（-91%）的节省非常显著。然而，作者警告说，这些数字并不反映答案质量或每项任务的总成本，并且测试的多通道检索策略并未产生可靠的改进。 AI

影响为 LLM 上下文管理效率提供了见解，可能影响开发者处理 token 使用和成本优化的方式。

排序理由博客文章，讨论 LLM 上下文管理的测量方法和结果，并非主要发布或重要的行业事件。

在 dev.to — LLM tag 阅读 →

基础设施

AI 生成摘要 · Google Gemini · 来自 1 个来源。我们如何撰写摘要 →

本文如何被排名

Signal score: 4 / 100; Composite score across the factors below. Higher = stronger signal that this story matters right now.
Newsworthiness bucket: Commentary; 博客文章，讨论 LLM 上下文管理的测量方法和结果，并非主要发布或重要的行业事件。
Source corroboration: Single-source cluster; Only one publisher covered this so far. Single-source stories can still rank when the publisher is high-authority, but they lack cross-source corroboration.
Topics: infra; Editorial topic classification. Feeds into how the story surfaces on /topic/<slug> hub pages and into the per-entity coverage mix.
AI-industry relevance: High; Clearly on-topic for AI-industry coverage.
Story freshness: Breaking (< 6h); Fresh story with cross-source coverage still developing. Ranking may shift as more sources report.

完整方法见我们的编辑标准。

报道来源 [1]

dev.to — LLM tag TIER_1 English(EN) · belcore · 2026-11-09 01:42

Token 节省取决于您计算什么：来自同一基准测试运行的三种数字

<p><em>Disclosure: I'm affiliated with Belcore, a memory and context layer for LLM apps. This is a measurement post. The numbers, their limits, and one result that did not hold up are all below.</em></p> <h2> Why "tokens saved" is slippery </h2> <p>Chat and agent setups usually k…

本文如何被排名

报道来源 [1]

Token 节省取决于您计算什么：来自同一基准测试运行的三种数字

相关实体

相关话题