实体
MobileLLM-Pro
MobileLLM-Pro
PulseAugur coverage of MobileLLM-Pro — every cluster mentioning MobileLLM-Pro across labs, papers, and developer communities, ranked by signal.
总计 · 30天
1
90 天内 2
发布 · 30天
0
90 天内 0
论文 · 30天
1
90 天内 2
层级分布 · 90 天
主题
情绪 · 30 天
1 天有情绪数据
最近 · 第 1/1 页 · 共 2 条
-
新的CoRA框架实现了无梯度的设备端AI检索
研究人员开发了一种新的无梯度框架，称为条件检索对齐（CoRA），用于设备端上下文学习。CoRA通过将候选输入表示与派生自输出的条件空间对齐，将一个冻结的编码器转换为任务条件检索器。这种方法无需检索器微调或反向传播即可实现有效的检索，并且已在Llama 3.2 1B和Qwen3.5 2B等模型上，在各种文本和多模态基准测试中得到验证，甚至在Raspberry Pi 5上也能运行。
-
MobileMoE模型为端侧LLM树立了新的效率标杆
研究人员推出MobileMoE，这是一系列专为移动部署设计的新型端侧专家混合（MoE）语言模型。这些模型拥有不足十亿的激活参数，通过优化MoE架构以适应移动设备的内存和计算限制，为端侧LLM树立了新的性能标杆。与领先的密集LLM和现有的MoE模型相比，MobileMoE模型在14项基准测试中表现出竞争力或更优的性能，同时使用的FLOPs和参数显著减少。该项目还实现了智能手机上首个高效MoE推理，展示了预填充和解码时间的显著加速。