一篇新的研究论文分析了语言模型的扰动鲁棒性，揭示了敏感性、因果关系和修复能力在模型层级之间并不一致。研究发现在像Phi-3.5和Gemma-2-9B这样的模型中存在两种不同的传播模式：尖峰-抑制模式，以及Llama-3、Mistral和Qwen2.5-7B中的后期累积模式。研究表明，放置在涉及因果关系早期层级的适配器会干扰下游计算，并为预筛选和适配器放置提供了实用指导。 AI
影响 为理解语言模型如何处理扰动提供了见解，可能指导未来的模型开发和微调策略。
排序理由 分析模型行为和鲁棒性的学术论文。[lever_c_demoted from research: ic=1 ai=1.0]
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →
