实体
Attention Matching Network for few-shot learning in the syndrome differentiation of cerebral stroke
Attention Matching Network for few-shot learning in the syndrome differentiation of cerebral stroke
PulseAugur coverage of Attention Matching Network for few-shot learning in the syndrome differentiation of cerebral stroke — every cluster mentioning Attention Matching Network for few-shot learning in the syndrome differentiation of cerebral stroke across labs, papers, and developer communities, ranked by signal.
总计 · 30天
1
90 天内 2
发布 · 30天
0
90 天内 0
论文 · 30天
1
90 天内 2
层级分布 · 90 天
主题
情绪 · 30 天
1 天有情绪数据
最近 · 第 1/1 页 · 共 2 条
-
新方法将注意力偏置折叠到键中，实现高效 KV 缓存操作
研究人员开发了一种将注意力偏置折叠到键中的方法，使压缩的 KV 缓存能在标准内核上运行。该技术通过重新拟合值并将偏置添加到保留的键中，实现了具有 AM 大小和头维度的普通缓存。在与未修改的 vLLM 和 Hugging Face 进行测试时，折叠后的缓存与现有方法在不同基准测试的各种 Qwen3 和 Llama-3.1 模型上表现相当。
-
新研究探讨LLM智能体的KV缓存压缩
一篇新近发表在arXiv上的研究探讨了大型语言模型（LLM）智能体在线KV缓存压缩的实用方法。该研究通过调整token驱逐和注意力匹配技术以适应在线压缩，专注于减少由长智能体轨迹引起的推理瓶颈。实验表明，延迟压缩和利用未来智能体查询可以弥补性能差距，并且在代理条件不完美的情况下，token驱逐被证明更具鲁棒性。