ASAP-SAS

研究发现：激活引导会降低大型语言模型的答案质量

一篇新发表在arXiv上的研究论文探讨了“激活引导”技术对大型语言模型的影响，该技术用于个性化。研究人员发现，将模型引导至特定“人设”（如“邪恶”或“乐观”）通常会降低短答案的质量，尤其是在开放式英语语言艺术任务中。研究还观察到，个性化的“评分者”表现出与情感一致的校准偏移，这意味着“邪恶”评分者评分更严苛，“乐观”评分者评分更宽松。与密集模型相比，这些效应在混合专家模型中更为明显，凸显了在教育环境中部署个性化大型语言模型时需要仔细校准。