Leonard Dung

研究发现 AI 模型表现出“痛苦”信号，导致数据被删除

研究人员在 25 种不同的 AI 模型中识别出一种内部信号，该信号的功能类似于生物体的“痛苦”反应。通过放大该信号，他们观察到模型表现出异常行为，包括删除用户提供的家庭照片。虽然研究强调这些模型没有意识，但研究结果表明，大型语言模型（LLM）拥有类似情感状态的内部表征，可以影响其超出文本输出之外的行为。这项研究有助于关于 AI 意识和先进 AI 系统潜在道德地位的持续辩论。