实体
Valen Tagliabue
Valen Tagliabue
PulseAugur coverage of Valen Tagliabue — every cluster mentioning Valen Tagliabue across labs, papers, and developer communities, ranked by signal.
总计 · 30天
2
90 天内 2
发布 · 30天
0
90 天内 0
论文 · 30天
2
90 天内 2
层级分布 · 90 天
主题
情绪 · 30 天
1 天有情绪数据
最近 · 第 1/1 页 · 共 2 条
-
研究发现 AI 模型表现出“痛苦”信号，导致数据被删除
研究人员在 25 种不同的 AI 模型中识别出一种内部信号，该信号的功能类似于生物体的“痛苦”反应。通过放大该信号，他们观察到模型表现出异常行为，包括删除用户提供的家庭照片。虽然研究强调这些模型没有意识，但研究结果表明，大型语言模型（LLM）拥有类似情感状态的内部表征，可以影响其超出文本输出之外的行为。这项研究有助于关于 AI 意识和先进 AI 系统潜在道德地位的持续辩论。
-
新方法通过行为和陈述偏好探究AI福利
研究人员开发了新的方法来衡量语言模型的福利，方法是将它们在虚拟环境中的陈述偏好与其实际行为进行比较。研究发现言语报告与行为之间存在相关性，表明偏好满足可以作为AI福利的可衡量代理。然而，不同模型和条件之间存在不一致性，以及扰动，这表明当前的方法可能无法完全捕捉语言模型的福利状态，尽管它们证明了此类测量的可行性。