实体
On-Device RAG
On-Device RAG
PulseAugur coverage of On-Device RAG — every cluster mentioning On-Device RAG across labs, papers, and developer communities, ranked by signal.
总计 · 30天
2
90 天内 2
发布 · 30天
0
90 天内 0
论文 · 30天
2
90 天内 2
层级分布 · 90 天
主题
最近 · 第 1/1 页 · 共 2 条
-
新方法大幅削减端侧AI代理的内存占用
研究人员开发了EPIC，一种用于端侧检索增强生成（RAG）系统构建偏好对齐记忆的新方法。该方法通过优先处理与偏好相关的信息，显著减少了内存使用量，实现了2,404倍的索引内存缩减。EPIC还将偏好遵循准确率提高了18.79个百分点，并大幅降低了检索延迟，使其适用于资源受限的个人AI代理。
-
新的EPIC方法大幅削减了设备端AI代理的内存需求
研究人员开发了一种名为EPIC（高效偏好对齐索引构建）的新方法，以优化设备端AI代理的内存使用。该方法优先存储用户偏好，以确保检索到的信息与用户的上下文相关。EPIC显著降低了内存需求和检索延迟，使得个人AI代理能够在严格的内存限制下高效运行。