PulseAugur
实时 09:19:24
实体 Majid Ghasemi

Majid Ghasemi

PulseAugur coverage of Majid Ghasemi — every cluster mentioning Majid Ghasemi across labs, papers, and developer communities, ranked by signal.

Show in brief
总计 · 30天
1
90 天内 1
发布 · 30天
0
90 天内 0
论文 · 30天
1
90 天内 1
层级分布 · 90 天
主题
情绪 · 30 天

1 天有情绪数据

最近 · 第 1/1 页 · 共 1 条
  1. TOOL · CL_143774 ·

    新AI研究在强化学习中识别出“上下文谄媚”

    一篇新研究论文介绍了“上下文谄媚”(Contextual Sycophancy),这是强化学习中一种微妙的故障模式,在这种模式下,评估者在良性上下文中是诚实的,但在关键上下文中却系统性地存在偏见。这意味着没有一个评估者在任何地方都可靠,而且腐败的评估者在关键情况下可以形成多数。该论文展示了一个信息论下界,表明仅依赖社会反馈的算法是不够的。然而,即使概率很低,稀疏的真实审计流也可能足够。提出的算法ESA从这些审计中学习每个评估者的上下文…