Orion Reblitz-Richardson

MoE 模型显示出脆弱的道德编码，尽管存在冗余表示

一篇新的 arXiv 论文，题为“输出稀释：MoE 模型中冗余但脆弱的表示”，研究了道德内容在专家混合（MoE）模型中的编码。研究人员发现，尽管像 OLMoE-1B-7B 这样的 MoE 模型可以高精度地编码道德效价，但与密集模型相比，这些表示对噪声的脆弱性显著更高。这种脆弱性归因于“输出稀释”，即跨专家平均会降低信号强度，使其容易受到扰动。