实体
commonsense reasoning
commonsense reasoning
PulseAugur coverage of commonsense reasoning — every cluster mentioning commonsense reasoning across labs, papers, and developer communities, ranked by signal.
总计 · 30天
1
90 天内 3
发布 · 30天
0
90 天内 0
论文 · 30天
1
90 天内 3
层级分布 · 90 天
主题
情绪 · 30 天
1 天有情绪数据
最近 · 第 1/1 页 · 共 3 条
-
新研究探索高效的混合专家模型路由
两篇新研究论文探讨了混合专家（MoE）模型的进展，这是一种用于扩展大型语言模型的技术。第一篇论文ScoutRoute介绍了一个轻量级的高效专家路由框架，该框架利用了来自侦察模型的内部语言模型信号，在各种基准测试中表现优于现有方法。第二篇论文MirrorMoE通过提出一种自适应于token的非必要专家抑制方法，解决了现代MoE架构中的探索困境，以提高性能并更好地利用细粒度的专家分割。
-
新的IntentQA任务和X-CaVIR框架增强视频理解能力
研究人员推出IntentQA，一项用于理解视频中人类意图的新任务和数据集，超越了简单的视觉事实识别。提出的X-CaVIR框架整合了情境、对比和常识性上下文，以改进视频分析和推理。为确保鲁棒性，该系统还采用了由LLM生成的对比集和“对比性能下降”指标，使推理过程更具可解释性。
-
FraQ方法通过高效重压缩改进了用于LLM的联邦LoRA
研究人员推出了一种名为FraQ的新方法，用于大型语言模型联邦低秩自适应（LoRA）的高效坐标空间重压缩。该方法通过重压缩聚合后的因子来解决联邦LoRA中固有的聚合不匹配问题。FraQ通过将堆叠的因子分解为正交基和紧凑的坐标矩阵来实现这一点，然后从Gram矩阵中恢复奇异谱。实验表明，FraQ在保持与未压缩基线相当的准确性的同时，显著降低了下行通信和服务器端重压缩的开销。