研究人员开发了GRACE,一个旨在提高大型语言模型可靠性的新框架,尤其适用于高风险应用。GRACE将LLM的响应分解为单独的声明,并将其与知识图谱进行比对,评估其依据和不确定性。这种方法不仅能识别幻觉,还能发现新颖或有争议的信息。该系统根据“注意力回报”目标优先处理需要专家审查的声明,确保人力资源得到有效分配,以验证最有价值的边界知识。经过验证的声明将被整合回知识库,形成一个迭代循环,以实现知识的持续扩展和检索性能的提升。 AI
影响 通过将声明与知识图谱相结合并优化专家验证,提高了LLM的可靠性。
排序理由 该集群包含一篇详细介绍LLM新框架的研究论文。[lever_c_demoted from research: ic=1 ai=1.0]
- alphaXiv
- arXiv
- CatalyzeX
- DagsHub
- Gotit.pub
- GRACE
- Graph-Grounded Reflective Agent Copilot Engine
- Hugging Face
- retrieval-augmented generation
- Return on Attention
- ScienceCast
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →