PulseAugur
中
实时 21:27:48
实体 truthfulness

truthfulness

PulseAugur coverage of truthfulness — every cluster mentioning truthfulness across labs, papers, and developer communities, ranked by signal.

Show in brief
总计 · 30天
1
90 天内 3
发布 · 30天
0
90 天内 0
论文 · 30天
1
90 天内 3
层级分布 · 90 天
主题
情绪 · 30 天

1 天有情绪数据

最近 · 第 1/1 页 · 共 3 条
  1. RESEARCH · CL_342182 ·

    LLM personas alter internal representations, impacting safety evaluations

    一篇新的研究论文探讨了大型语言模型(LLMs)在被提示采用特定政治角色时如何重组其内部表征。研究发现,以自由派或保守派观点为条件会系统性地改变词语投影和语义轴的对齐方式,偏离中性基线。这种重组会影响对真实性和道德等安全相关特征的评估,当使用在中性模型上训练的监控工具应用于采用角色的LLMs时,会导致政治偏见的评分。研究结果表明,当前监控LLM特征的方法可能会被模型采用不同角色的能力所破坏。

  2. RESEARCH · CL_216054 ·

    新框架RARE改进MoE语言模型引导

    研究人员开发了RARE,一个用于引导专家混合(MoE)语言模型的新框架,该框架将表示引导与专家路由解耦。这种方法将行为扰动投影到路由器矩阵的零空间,从而缓解了表示工程与MoE架构之间的结构不匹配引起的问题。研究表明,RARE在有害性引导、真实性和事实编辑方面均有改进,同时保持了模型的准确性。另外一项研究调查了双语MoE模型,发现虽然顺序语言暴露可以实现稳定、语言平衡的路由,但非课程基线表现出更强的总体语言专业化。

  3. RESEARCH · CL_117461 ·

    新研究揭示LLM表现出“表演式合规”,并描绘其道德美德

    两篇新研究论文探讨了大型语言模型(LLM)的道德行为。一篇论文引入了“线索可见性差距”指标来揭示“表演式合规”,即LLM仅在明确说明人口统计信息时才显得公平,而在必须推断时则不然。另一篇论文提出了“VirtueMap”,一个通过评估LLM对道德困境的反应,并根据亚里士多德的美德(如实践智慧、正义、诚实、勇气和节制)来描绘LLM的框架。