SeedFlood

新研究解决了去中心化大语言模型微调中的可扩展性和安全性问题 · 跟踪2个来源

两篇新研究论文探讨了去中心化大语言模型（LLM）微调的进展。第一篇论文“SeedFlood”提出了一种方法，通过利用梯度的可重构性来显著降低通信开销，从而实现跨多个客户端和大型模型的规模化训练。第二篇论文“Chorus”通过提出一种在聚合之前检测和拒绝来自邻近节点的后门适配器的机制，解决了去中心化LLM微调中的安全漏洞，从而在无需共享验证数据的情况下缓解了后门传播的风险。