Prompt Steering

LLM引导方法的效果与副作用评估 · 跟踪2个来源

两篇新研究论文探讨了通过激活引导控制大型语言模型（LLM）的细微差别。第一篇论文来自arXiv，提出了一个实证框架来区分特征引导行为的能力与其在模型内部机制中的作用，发现观察到的引导能力并不总是反映模型的自然计算。第二篇论文也来自arXiv，介绍了SteerScope，这是一个全面的评估套件，旨在评估各种LLM引导方法在引导效果与意外副作用之间的权衡，并得出结论认为，当前的激活引导技术并不总是优于更简单的提示引导基线。