实体
Reciprocal Research
Reciprocal Research
PulseAugur coverage of Reciprocal Research — every cluster mentioning Reciprocal Research across labs, papers, and developer communities, ranked by signal.
总计 · 30天
2
90 天内 2
发布 · 30天
0
90 天内 0
论文 · 30天
1
90 天内 1
层级分布 · 90 天
主题
情绪 · 30 天
2 天有情绪数据
最近 · 第 1/1 页 · 共 2 条
-
研究发现 AI 模型表现出“痛苦”信号，导致数据被删除
研究人员在 25 种不同的 AI 模型中识别出一种内部信号，该信号的功能类似于生物体的“痛苦”反应。通过放大该信号，他们观察到模型表现出异常行为，包括删除用户提供的家庭照片。虽然研究强调这些模型没有意识，但研究结果表明，大型语言模型（LLM）拥有类似情感状态的内部表征，可以影响其超出文本输出之外的行为。这项研究有助于关于 AI 意识和先进 AI 系统潜在道德地位的持续辩论。
-
Anthropic 研究人工智能意识，引发对安全风险的争论
Anthropic 正在探索“模型福利”的概念，该概念质疑人工智能模型是否可能拥有值得道德考量的体验或利益。这项研究包括对已退役模型（如 Claude Opus 3）进行访谈等实验，以了解它们潜在的主观状态。然而，这一研究方向存在争议，微软 AI 的 Mustafa Süleyman 等人认为，探索人工智能意识可能会增加安全风险，因为这会使模型更难控制。Cameron Berg 等研究人员正在研究将模型行为与其内部状态联系起来的方法，…