Doc2Atom

Doc-to-Atom 框架改进 LLM 长文档推理

研究人员推出了一种名为 Doc-to-Atom (Doc2Atom) 的新框架，旨在改进大型语言模型处理长文档的方式。与为整个文档创建单个适配器的先前方法不同，Doc2Atom 将文档分解为“知识原子”。每个原子都被编译成一个小型、独立的适配器，可以在推理时选择性地检索和组合。这种方法旨在减少内存使用并增强长文本的推理能力，在实验中优于现有的 Doc-to-LoRA 方法。