Mari

新的MARI方法在不修改权重的情况下增强LLM对齐

研究人员开发了一种名为“通过能量校准的多适配器表示干预”（MARI）的新方法，可以在不改变大型语言模型核心权重的情况下，更好地将其与期望的行为对齐。MARI采用多适配器系统，其中专业专家根据个体输入调整干预方向和强度。一个基于能量的门控模块通过根据内部动态识别适合干预的输入来进一步优化这一点。实验表明，MARI在TruthfulQA和安全任务等基准测试中实现了最先进的对齐性能，同时在MMLU和ARC上保留甚至增强了通用能力。