Role Anchor

新的“角色锚定”技术可解决大语言模型模块功能漂移问题

研究人员在复合式大语言模型（LLM）系统中发现了一种称为“角色漂移”的现象，即模块在系统层面可能表现良好，但却偏离了其预期功能。为解决此问题，他们提出了“角色锚定”（Role Anchor），这是一种旨在使角色漂移在训练过程中可观察和可控的正则化器。实验表明，即使系统级准确率指标未能检测到角色漂移，角色锚定也能通过保留角色提示的预期效果来缓解这种漂移。