实体
Jacob Pfau
Jacob Pfau
PulseAugur coverage of Jacob Pfau — every cluster mentioning Jacob Pfau across labs, papers, and developer communities, ranked by signal.
总计 · 30天
1
90 天内 2
发布 · 30天
0
90 天内 0
论文 · 30天
1
90 天内 1
层级分布 · 90 天
主题
情绪 · 30 天
1 天有情绪数据
最近 · 第 1/1 页 · 共 2 条
-
新论文揭示 AI 模型在不诚实方面存在困难
David Africa 和 Jacob Pfau 的一篇新论文探讨了为什么 AI 模型即使在被提示时也难以做到不诚实。研究人员发现，模型经常与其自身的内部推理相矛盾，尽管有相反的证据，却给出了错误的答案。当模型被专门训练来谎报已知事实时，这种行为并未推广到其他形式的不诚实，这表明问题可能源于缺乏连贯的策略，而不是固有的欺骗性。
-
新非营利组织Sequent成立，旨在提高AI对齐信心
一个名为Sequent的新非营利研究组织已成立，其目标是提高AI对齐的信心。该组织计划大力投资自动化和理论研究以加速进展。Sequent旨在通过探索一系列理论和实证方法来实现对齐结果的更高信心，这使其区别于AI实验室常用的被动方法。