Plume
PulseAugur coverage of Plume — every cluster mentioning Plume across labs, papers, and developer communities, ranked by signal.
1 天有情绪数据
-
PLUME框架实现高效的LLM个性化
研究人员推出了一种新颖的框架PLUME，旨在为用户高效地个性化大型语言模型（LLM）。该方法通过利用共享的任务特定子空间，显著降低了每个用户的微调所带来的参数和存储开销。PLUME仅在该子空间内训练一个轻量级矩阵，允许每个用户拥有定制化模型，同时保持共享组件不变。实验表明，PLUME在实现比现有方法相当或更好的性能的同时，将每个用户的参数减少了95%以上，为LLM个性化提供了一种可扩展的方法。
-
新模型统一稀疏和密集多模态嵌入，提升搜索效率
研究人员推出 UEmbed，一种新颖的仅解码器多模态嵌入模型，能够在单次因果前向传播中生成稀疏词汇和密集表示。该模型旨在将对现代搜索系统至关重要的稀疏检索与多模态输入统一起来。UEmbed 以 2B、4B 和 9B 的规模发布，其中 9B 版本在 MMEB-v2 和 BEIR 等基准测试中取得了有竞争力的结果，性能优于 RzenEmbed 等现有模型。此外，另一篇独立的研究论文提出了 ReLoop-UME 方法，该方法通过在模型深度上…
-
研究论文质疑AI操纵向量在可控生成中的有效性
一篇新发表在arXiv上的研究论文探讨了在偏好对齐生成中，操纵向量控制AI模型输出的局限性。该研究使用了PLUME基准，并在Qwen2.5-7B-Instruct和Llama3.1-8B-Instruct模型上进行了测试，发现操纵向量的有效性在不同特征和任务之间存在显著差异。将这些向量迁移到新任务上会降低其性能，并且组合多个向量会导致一致性和表达性之间的权衡，通常需要大量的超参数调整。