实体
Doc-to-LoRA
Doc-to-LoRA
PulseAugur coverage of Doc-to-LoRA — every cluster mentioning Doc-to-LoRA across labs, papers, and developer communities, ranked by signal.
总计 · 30天
0
90 天内 2
发布 · 30天
0
90 天内 0
论文 · 30天
0
90 天内 2
层级分布 · 90 天
主题
最近 · 第 1/1 页 · 共 2 条
-
Doc-to-Atom 框架改进 LLM 长文档推理
研究人员推出了一种名为 Doc-to-Atom (Doc2Atom) 的新框架，旨在改进大型语言模型处理长文档的方式。与为整个文档创建单个适配器的先前方法不同，Doc2Atom 将文档分解为“知识原子”。每个原子都被编译成一个小型、独立的适配器，可以在推理时选择性地检索和组合。这种方法旨在减少内存使用并增强长文本的推理能力，在实验中优于现有的 Doc-to-LoRA 方法。
-
新研究发现“覆盖差距”是大型语言模型适应中的关键失败因素
研究人员在基于超网络的适应大型语言模型的方法中发现了一种知识冲突失败，当新信息与预先存在的知识相冲突时，准确性会显著下降。这种失败归因于一个幅度问题，即适配器的影响始终小于预训练模型的知识，尤其是在深度冲突的事实时。该研究提出了两种无需训练的解决方案：选择性层增强（Selective Layer Boosting）和冲突感知内化（Conflict-Aware Internalization），它们在不牺牲新知识回忆能力的情况下提高了对…