实体
Orion Reblitz-Richardson
Orion Reblitz-Richardson
PulseAugur coverage of Orion Reblitz-Richardson — every cluster mentioning Orion Reblitz-Richardson across labs, papers, and developer communities, ranked by signal.
总计 · 30天
3
90 天内 3
发布 · 30天
0
90 天内 0
论文 · 30天
3
90 天内 3
层级分布 · 90 天
主题
情绪 · 30 天
1 天有情绪数据
最近 · 第 1/1 页 · 共 3 条
-
新论文详述了大型语言模型可解释性方法的常见故障
一篇由Orion Reblitz-Richardson发表在arXiv上的新论文，详述了用于大型语言模型（LLMs）的因果可解释性方法中的六种常见故障。这些故障可能导致对LLM内部机制得出不正确的结论，例如错误归因影响或误解模型决策。该论文提出了一个四步协议来识别和缓解这些问题，强调了校准、认证、功效计算和深度引用以获得可靠的解读。
-
研究发现：大型语言模型以几何方式构建道德知识
一项新的研究论文探讨了大型语言模型（LLMs）如何组织道德知识，超越了简单的道德内容检测。研究发现，LLMs能够区分不同的道德基础，例如关怀/伤害和公平/欺骗，并在其内部结构中以几何方式表示这些关系。这种道德组织在预训练早期就出现，并反映了语料库的统计特征，而非预定义的理论区分，这表明模型能够表示道德张力和冲突。
-
MoE 模型显示出脆弱的道德编码，尽管存在冗余表示
一篇新的 arXiv 论文，题为“输出稀释：MoE 模型中冗余但脆弱的表示”，研究了道德内容在专家混合（MoE）模型中的编码。研究人员发现，尽管像 OLMoE-1B-7B 这样的 MoE 模型可以高精度地编码道德效价，但与密集模型相比，这些表示对噪声的脆弱性显著更高。这种脆弱性归因于“输出稀释”，即跨专家平均会降低信号强度，使其容易受到扰动。