实体
Comemoração em cais
Comemoração em cais
PulseAugur coverage of Comemoração em cais — every cluster mentioning Comemoração em cais across labs, papers, and developer communities, ranked by signal.
总计 · 30天
1
90 天内 2
发布 · 30天
0
90 天内 0
论文 · 30天
1
90 天内 2
层级分布 · 90 天
主题
情绪 · 30 天
1 天有情绪数据
最近 · 第 1/1 页 · 共 2 条
-
Comprehension Memory 大幅降低 LLM 上下文成本，提升效率
一篇新论文介绍了 Comprehension Memory (CoMem) 技术，该技术旨在显著降低长上下文语言模型相关的内存和计算成本。CoMem 的工作原理是在“分割层”缓存中间层状态，而不是存储所有层的完整 KV 缓存。这种方法可以实现更快的推理速度和急剧降低的 VRAM 使用量，以 128k token 仅需 18.26 GB 的占用空间为例，相比之下通常需要 89 GB。该方法在 Qwen3_8B 模型上进行了测试，在保持准…
-
CoMem 框架将上下文管理解耦，以实现更快的 AI 代理
研究人员开发了 CoMem，一个将上下文管理与代理主要工作流程分离的新框架，允许这些过程并发运行。这种异步方法使用 k 步偏移流水线将内存模型摘要与代理推理重叠，从而有效降低延迟。CoMem 还采用了一种由奖励驱动的训练策略，以确保内存模型为代理的决策提供足够的信息，与集成系统相比，在效率和有效性之间取得了更好的平衡。