Six Packers

LLM上下文打包：利用率 vs. 答案保留

dev.to 上的一篇博文探讨了 LLM 不同上下文窗口打包策略的有效性，强调最大化上下文利用率并不一定意味着保留最关键的信息。作者演示了一种贪婪的方法，该方法会填满窗口但可能会截断答案，在保留实际答案跨度方面表现不佳。一种“神谕”策略，它优先将答案文档放在首位，在保留答案方面被证明是 100% 有效的，即使其他方法由于预算限制或不准确的令牌计数而失败。