Fera

FERA框架通过联邦不确定性估计增强LLM推理

研究人员开发了FERA，一个用于在联邦环境中改进大型语言模型推理的新框架。该方法允许中央服务器通过与持有私有演示数据的多个客户端协作来增强推理，而无需共享原始数据。FERA采用迭代协同精炼，客户端提供带有不确定性估计的推理轨迹，服务器将其综合以改进未来的推理轮次。该系统包含不确定性感知自我批评聚合（UA-SCA）来修正错误的推理步骤并改进基于信任的加权，从而在现有联邦方法上获得一致的性能提升。