ContextForge

ContextForge 工具通过压缩和重排来对抗 LLM 上下文遗忘

上下文遗忘，即 LLM 在长对话中准确性下降的现象，现在可以被衡量和缓解。一款名为 ContextForge 的新开源工具充当中间件，对 token 进行评分、压缩、重排和预算分配，以减少这种退化。通过修剪过时信息并优先将关键事实放置在上下文窗口的边缘，ContextForge 在模拟代理会话中展示了显著的 token 削减（高达 92%）和准确性提升，恢复了标准基准可能忽略的被埋没的信息。