实体
token-budgets
token-budgets
PulseAugur coverage of token-budgets — every cluster mentioning token-budgets across labs, papers, and developer communities, ranked by signal.
总计 · 30天
1
90 天内 3
发布 · 30天
0
90 天内 0
论文 · 30天
1
90 天内 3
层级分布 · 90 天
主题
情绪 · 30 天
1 天有情绪数据
最近 · 第 1/1 页 · 共 3 条
-
通过上下文窗口管理技术优化 RAG 系统
本文讨论了管理大型语言模型上下文窗口限制的策略，特别是在检索增强生成 (RAG) 系统中。文章探讨了令牌预算、数据压缩和证据排序等技术，以优化性能并缓解“中间丢失”问题。该文章是 RAG 工程系列文章的第十二部分。
-
论文引入编译时预算检查以用于LLM代理
一篇新论文详细介绍了63起LLM代理成本超支的案例，并将多代理委托确定为主要原因。为解决此问题，作者开发了一个Rust crate，它使用仿射类型所有权在编译时强制执行token和成本预算，从而在发生超支之前就加以阻止。这种方法与传统的运行时检查形成对比，后者仅在token已被提交后才能检测到超支。
-
研究人员 catalog 63 起 LLM-agent 预算超支事件，并提出 Rust 缓解方案
研究人员 catalog 了 2023 年至 2026 年间 21 个框架中的 63 起 LLM-agent 预算超支事件，详细说明了财务损失并对失败类型进行了分类。为了缓解这些问题，他们开发了一个名为 `token-budgets` 的 Rust crate，该 crate 使用仿射（affine）类型来防止常见的错误，例如在编译时双重花费或在委托后使用预算。虽然更简单的 Python 实现可以处理单智能体任务，但 Rust cra…