PulseAugur
中
实时 14:27:21
English(EN) RIMS: Preference Optimization via Smoothed Multi-pair Aggregation for Small-Scale LLM Retrieval-Augmented Generation

新的RIMS框架增强了小型LLM的检索增强生成

作者 PulseAugur 编辑部 · [1 个来源] ·

研究人员开发了RIMS，一种用于优化小规模语言模型（SLM）的检索增强生成（RAG）的新型三阶段框架。该方法通过采用可微分的软聚合机制来解决SLM对嘈杂检索数据的敏感性问题，该机制保留了来自多个偏好对的梯度信号，而现有方法则丢弃信息或独立处理偏好对。在四个多跳问答基准上的实验表明，RIMS优于最先进的基线，即使在嘈杂的检索条件下也能在精确匹配和F1分数上取得改进的性能。 AI

影响 增强了小型语言模型在检索增强生成中的性能，尤其是在资源受限的环境中。

排序理由 该集群描述了一篇关于LLM RAG新框架的最新研究论文。[lever_c_demoted from research: ic=1 ai=1.0]

在 arXiv cs.CL 阅读 →

AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →

新的RIMS框架增强了小型LLM的检索增强生成

报道来源 [1]

  1. arXiv cs.CL TIER_1 English(EN) · Pei Tian, Zihan Dong, Tianci Liu, Linjun Zhang, Haoyu Wang ·

    RIMS：通过平滑多对聚合实现小规模LLM检索增强生成中的偏好优化

    arXiv:2607.16431v1 Announce Type: new Abstract: Small-scale language models (SLMs) are attractive for retrieval-augmented generation (RAG) in resource-constrained settings, but their limited capacity makes them highly sensitive to noisy or spurious retrieved evidence. Existing pr…

相关实体

相关话题