Microsoft Research Paraphrase Corpus
PulseAugur coverage of Microsoft Research Paraphrase Corpus — every cluster mentioning Microsoft Research Paraphrase Corpus across labs, papers, and developer communities, ranked by signal.
2 天有情绪数据
-
新的LoRA-Diffusion方法实现了扩散语言模型的参数高效微调
研究人员推出了一种新颖的参数高效微调方法LoRA-Diffusion，该方法专为基于扩散的语言模型设计。与修改模型权重的现有方法不同，LoRA-Diffusion将低秩分解应用于去噪轨迹，学习整个扩散路径上的扰动。这种方法允许以更少的存储需求进行任务特定定制，并在SST-2、QNLI和MRPC等基准测试中表现出色，为适应扩散语言模型建立了一个新框架。
-
新研究推动LoRA微调理论与实践发展
研究人员在大型语言模型微调的低秩自适应（LoRA）方面取得了新的理论和实践进展。一项研究提供了一个理论框架，为LoRA的样本复杂度建立了匹配的上下界，并为最优秩选择提供了指导。第二项研究引入了PrunedLoRA，一种使用结构化剪枝从过度参数化的初始化中创建更具表现力和更紧凑的LoRA适配器的方法，在各种任务上表现优于标准LoRA。
-
研究表明成对难度适应可提升冻结句子嵌入
研究人员调查了如何将冻结的句子嵌入适应输入复杂度，发现每句难度适应基本无效。他们使用 Qwen3-Embedding-0.6B 编码器进行的研究表明，复杂度更多是成对属性而非单个句子属性。然而，由交叉编码器难度信号门控的成对残差在 STS-B 和 QQP 等特定任务上确实显示出了一致的收益。
-
Lost in State Space: Probing Frozen Mamba Representations
一篇新的研究论文调查了 Mamba（一种循环神经网络架构）的内部工作原理。该研究测试了一个假设，即 Mamba 的状态可以直接产生语义句子摘要，而无需额外训练。然而，研究结果表明，这种方法并不总是优于更简单的池化技术。研究发现了 Mamba 冻结状态中存在显著的表示坍塌和各向异性问题。