研究人员开发了CAP-TTA,一个新颖的测试时自适应框架,旨在提高大型语言模型(LLMs)在遇到分布外、高偏见提示时的去偏能力。该框架利用由偏见风险分数触发的上下文感知LoRA更新,并采用预计算的对角线预条件子以实现快速稳定的优化。与AdamW或SGD等标准方法相比,CAP-TTA以更低的延迟有效减少了毒性和偏见,同时还增强了叙事流畅性并防止了灾难性遗忘。 AI
影响 通过解决分布外提示中的偏见问题,提高了LLM的安全性和叙事质量。
排序理由 该集群包含一篇详细介绍LLM去偏新方法的学术论文。[lever_c_demoted from research: ic=1 ai=1.0]
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →