实体
CPU cache
CPU cache
PulseAugur coverage of CPU cache — every cluster mentioning CPU cache across labs, papers, and developer communities, ranked by signal.
总计 · 30天
1
90 天内 2
发布 · 30天
0
90 天内 0
论文 · 30天
1
90 天内 1
层级分布 · 90 天
主题
情绪 · 30 天
1 天有情绪数据
最近 · 第 1/1 页 · 共 2 条
-
新攻击通过 CPU 缓存痕迹恢复本地 LLM 输出
研究人员开发了一种新颖的攻击方法，通过观察本地托管的大型语言模型 (LLM) 在反分词（detokenization）过程中 CPU 缓存的活动，来重建其生成的文本。这种被称为“反分词泄露”（Detokenization Leaks）的方法，通过针对反分词器（LLM 推理管道中的常见组件）来规避了先前攻击的局限性。通过使用 Flush+Reload 和 Prime+Probe 技术监控缓存行为，该攻击可以在不同的硬件和软件配置下，从各…
-
专家解释：AI上下文窗口是CPU缓存，而非内存
AI模型的上下文窗口不应被误认为是持久化内存，而更像是CPU缓存的临时执行表面。这个临时空间保存了单次推理所需的信息，并在完成后消失，除非被明确保存。真正的内存系统包括活动工作内存（RAM）、持久化内存（文件系统）、推理账本（Git历史记录）以及用于可验证性的写入端托管。仅仅增加上下文窗口大小并不能解决“散文税”或“上下文税”等问题，即组织不当或冗长的输入会降低模型的召回率；结构化、更小的上下文可能更有效。持久化内存资产是在推理后精心…