Llama3.1-405B

新研究探索高效的LLM对齐和联邦微调

研究人员正在开发用于高效大型语言模型（LLM）对齐和微调的新方法。一种名为P2D的方法使用任务敏感的注意力头来指导数据选择和参数剪枝，从而实现显著的速度提升和性能提升。另一个研究领域专注于联邦微调，即模型在不共享原始数据的情况下跨多个客户端进行协作训练。ShaPO等新框架通过控制优化几何来解决安全对齐中的鲁棒性问题，而其他研究则探索基于行为的共识和面向联邦LoRA微调的污染感知技术。