PulseAugur
中
实时 11:06:27
实体 Contextual Memory Virtualisation

Contextual Memory Virtualisation

PulseAugur coverage of Contextual Memory Virtualisation — every cluster mentioning Contextual Memory Virtualisation across labs, papers, and developer communities, ranked by signal.

Show in brief
总计 · 30天
1
90 天内 1
发布 · 30天
0
90 天内 0
论文 · 30天
1
90 天内 1
层级分布 · 90 天
主题
情绪 · 30 天

1 天有情绪数据

最近 · 第 1/1 页 · 共 1 条
  1. TOOL · CL_321877 ·

    新系统虚拟化 LLM 记忆，将 token 数量减少高达 86%

    研究人员开发了一个名为上下文记忆虚拟化 (CMV) 的新系统，用于管理大型语言模型 (LLM) 在扩展推理任务中累积的不断增长的状态。CMV 将 LLM 理解视为版本控制的状态，类似于操作系统虚拟内存，并使用有向无环图 (DAG) 结构。这使得通过快照、分支和修剪的原始操作进行高效的状态管理成为可能。一种新颖的三遍修剪算法通过移除机械性臃肿同时保留所有用户消息和助手响应的原文，将 token 数量平均减少 20%，在某些情况下高达 8…