Session
PulseAugur coverage of Session — every cluster mentioning Session across labs, papers, and developer communities, ranked by signal.
1 天有情绪数据
-
AI代理上下文压缩产生显著的隐藏成本
一项技术分析显示，AI代理会话中的上下文压缩占运营成本的很大一部分，估计为总账单的11.8%。此过程在上下文窗口过大时会缩短其长度，但会产生额外费用，因为后续轮次需要处理大量新输入。虽然压缩本身可能免费，但后续轮次按普通助手轮次计费，使得成本不那么透明。分析表明，尽管有前期成本，但压缩通常在大约14个轮次内就能收回其费用，尽管一些会话的回收期更短。
-
新的大语言模型记忆系统应对长期对话挑战 · 已追踪 5 个来源
研究人员正在开发新的方法来管理和检索大型语言模型（LLM）的长期对话记忆中的信息。这些方法旨在克服全上下文注入（计算成本高）和有损摘要（丢弃关键历史数据）的局限性。诸如 'Pull' 和 'MemLoc' 等技术侧重于惰性实现或精确查找相关的对话轮次，从而在保持或提高响应质量的同时降低令牌成本。其他方法，如 'CueMem'，使用提取的记忆线索来重建与查询相关的上下文，而 'PRAGMA' 通过将记忆与不断变化的用户偏好对齐来评估个性…
-
开发者发现基于会话的代理工具界面在 11 次调用中有 5 次失败
一位开发者在构建代理工具界面时遇到了问题，发现基于会话的版本在 11 次调用中有 5 次失败。这与另一种正确执行的方法形成了对比。开发者强调，发布说明中强调了扩展性成就，但核心挑战在于定义代理的预期功能。
-
ACEL系统实时验证AI代理工具调用
一个名为ACEL的新系统已被开发出来，用于为AI代理提供运行时验证，在有害行为发生前进行阻止。与评估平均性能的传统评估分数不同，ACEL专注于确保每个单独的工具调用都符合预定义的规则。它利用LTL3语义来监控有限的执行跟踪，并阻止任何违反安全属性的工具调用，确保删除记录或发送付款等操作仅在所有条件满足时才被允许。
-
OpenRath 为代理系统引入类似 PyTorch 的编程模型
OpenRath 是一种用于多代理系统的新编程模型，它使用一个中央“会话”抽象来管理运行时状态。这种受 PyTorch 启发的方法通过将对话记录、工具效果、内存事件和其他执行数据整合到一个运行时值中，从而允许显式的 fork、merge 和 replay 操作。该系统旨在通过将状态管理作为一项首要关注点来提高代理工作流的可检查性和可重现性。