14B parameter models

新的LLM框架优先检索以进行事实性文档构建

研究人员开发了ConvergeWriter，一个使用大型语言模型构建长篇、事实性文档的新颖框架。与可能导致不准确的传统自上而下方法不同，ConvergeWriter采用自下而上、数据驱动的方法。该方法优先从知识库中进行详尽的迭代检索，然后在生成大纲和最终内容之前进行无监督聚类以组织信息。这确保了生成的文本可以严格追溯到其来源，从而减少了幻觉并提高了结构连贯性，在14B和32B参数模型上展示了有希望的结果。