研究人员开发了FERA,一个用于在联邦环境中改进大型语言模型推理的新框架。该方法允许中央服务器通过与持有私有演示数据的多个客户端协作来增强推理,而无需共享原始数据。FERA采用迭代协同精炼,客户端提供带有不确定性估计的推理轨迹,服务器将其综合以改进未来的推理轮次。该系统包含不确定性感知自我批评聚合(UA-SCA)来修正错误的推理步骤并改进基于信任的加权,从而在现有联邦方法上获得一致的性能提升。 AI
影响 在不集中敏感数据的情况下实现协作式LLM推理,有可能提高跨分布式组织的模型性能。
排序理由 该集群包含一篇详细介绍LLM新框架的研究论文。[lever_c_demoted from research: ic=1 ai=1.0]
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →