Xinyan Jiang

LLM属性对齐通过新颖的子空间引导框架得到改进

研究人员开发了一个名为多子空间表示引导（MSRS）的新框架，以改进对大型语言模型（LLMs）的控制。MSRS通过为每个属性分配不同的子空间来解决同时引导多个属性而不发生干扰的挑战。该方法还采用了一种混合方法，结合了特定属性和共享子空间，并使用动态加权函数进行精确控制。此外，MSRS引入了一种令牌级引导机制，用于细粒度的行为调制，在减少属性冲突和泛化到各种下游任务方面表现出卓越的性能。