实体 CacheLink

CacheLink

PulseAugur coverage of CacheLink — every cluster mentioning CacheLink across labs, papers, and developer communities, ranked by signal.

总计 · 30天

1

90 天内 1

发布 · 30天

0

90 天内 0

论文 · 30天

1

90 天内 1

层级分布 · 90 天

主题

情绪 · 30 天

1 天有情绪数据

最近 · 第 1/1 页 · 共 1 条

TOOL · CL_300655 · Oct 15 · 04:00

CacheLink 实现 LLM 间的零预填充上下文交接

研究人员开发了 CacheLink，一种用于大型语言模型高效跨模型上下文交接的新颖方法。该技术允许接收模型直接从发送模型的 KV 缓存中继续处理上下文，而无需重新预填充，从而显著降低延迟。CacheLink 专注于保留接收方的计算行为，而不仅仅是重建 KV 状态，从而在各种模型对之间提高准确性和注意力模式。