PulseAugur
实时 13:38:59
English(EN) FERA: Uncertainty-Aware Federated Reasoning for Large Language Models

FERA框架通过联邦不确定性估计增强LLM推理

研究人员开发了FERA,一个用于在联邦环境中改进大型语言模型推理的新框架。该方法允许中央服务器通过与持有私有演示数据的多个客户端协作来增强推理,而无需共享原始数据。FERA采用迭代协同精炼,客户端提供带有不确定性估计的推理轨迹,服务器将其综合以改进未来的推理轮次。该系统包含不确定性感知自我批评聚合(UA-SCA)来修正错误的推理步骤并改进基于信任的加权,从而在现有联邦方法上获得一致的性能提升。 AI

影响 在不集中敏感数据的情况下实现协作式LLM推理,有可能提高跨分布式组织的模型性能。

排序理由 该集群包含一篇详细介绍LLM新框架的研究论文。[lever_c_demoted from research: ic=1 ai=1.0]

在 arXiv cs.CL 阅读 →

AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →

FERA框架通过联邦不确定性估计增强LLM推理

报道来源 [1]

  1. arXiv cs.CL TIER_1 English(EN) · Dongruo Zhou ·

    FERA:面向大型语言模型的不确定性感知联邦推理

    Large language models (LLMs) exhibit strong reasoning capabilities when guided by high-quality demonstrations, yet such data is often distributed across organizations that cannot centralize it due to regulatory, proprietary, or institutional constraints. We study federated reason…