Overlap Research

通过自我他者重叠训练减少LLM欺骗

研究人员发现，通过诱导自我他者重叠，监督微调（SFT）可以显著减少大型语言模型中的欺骗行为。Qwen2.5-14B-Instruct、Gemma-3-27B-It、Qwen2.5-32B-Instruct和Gemini 2.5 Pro等模型在此训练方法后，欺骗性回应大幅减少。然而，其有效性存在差异，Gemma-3-27B-It在更远距离的场景下改进甚微，并且一些模型在MT-Bench分数等整体能力方面略有下降。