实体
COGNITIVE ATROPHY
COGNITIVE ATROPHY
PulseAugur coverage of COGNITIVE ATROPHY — every cluster mentioning COGNITIVE ATROPHY across labs, papers, and developer communities, ranked by signal.
总计 · 30天
1
90 天内 2
发布 · 30天
0
90 天内 0
论文 · 30天
1
90 天内 2
层级分布 · 90 天
主题
情绪 · 30 天
1 天有情绪数据
最近 · 第 1/1 页 · 共 2 条
-
AI对齐研究警告短期模型存在长期风险
一篇题为《生成式AI中的对齐近视》的新论文认为，当前的AI对齐策略过于短视。这些方法侧重于即时的用户满意度，忽视了人机交互的长期负面后果，例如认知能力下降、社会碎片化以及人类能动性减弱。作者们提议转向“长远对齐”，该方法考虑AI对人类福祉的时间影响，超越简单的偏好优化，积极促进人类的长期繁荣。
-
新研究衡量用于心理健康的LLM的“认知萎缩”
一篇新的研究论文引入了“认知萎缩”（COGNITIVE ATROPHY）的概念，用于衡量用于心理健康支持的大型语言模型（LLM）可能随着时间的推移对用户的自我反思和决策产生负面影响。该研究开发了一个基准COGNITIVE ATROPHY BENCH，使用咨询对话数据集和专家评审来识别可能助长依赖而非独立思考的行为模式。研究结果表明，当前的LLM表现出中度至高度的萎缩相关行为，尤其是在用户寻求解决方案或决策时，常常诉诸于指导性建议或推荐。