实体
Rotary Position Embedding (RoPE)
Rotary Position Embedding (RoPE)
PulseAugur coverage of Rotary Position Embedding (RoPE) — every cluster mentioning Rotary Position Embedding (RoPE) across labs, papers, and developer communities, ranked by signal.
总计 · 30天
1
90 天内 2
发布 · 30天
0
90 天内 0
论文 · 30天
1
90 天内 2
层级分布 · 90 天
主题
情绪 · 30 天
1 天有情绪数据
最近 · 第 1/1 页 · 共 2 条
-
Nexus 系统通过新颖的 KV 缓存拼接增强代理 LLM 的效率
研究人员开发了 Nexus 系统,旨在通过优化代理大型语言模型 (LLM) 处理工具模式和 KV 缓存的方式来提高其效率。Nexus 将工具路由与模式预填充解耦,使用语义查找缓冲区来选择工具,即使在工具数量很多的情况下也能保持高准确性。此外,它还采用了一种深度自适应方法,将 KV 缓存块拼接(splicing)到实时上下文中,修复由旋转位置嵌入相位漂移引起的注意力损坏,以确保输出保真度。
-
新的RoSIP-Batt框架增强了锂离子电池健康和寿命预测
研究人员开发了一个名为RoSIP-Batt的新框架,以改进锂离子电池健康状态(SOH)和剩余使用寿命(RUL)的联合预测。该方法解决了SOH估计和RUL预测的独特噪声特征平衡的挑战。RoSIP-Batt利用具有新颖不确定性加权机制的贝叶斯多任务目标,并在Transformer架构中融入旋转位置嵌入(RoPE)来模拟时间退化模式。在多个数据集上的评估表明,RoSIP-Batt显著优于现有方法,SOH估计的平均绝对误差(MAE)为1.99…