Cognitive Atrophy Risk Index

新研究衡量用于心理健康的LLM的“认知萎缩”

一篇新的研究论文引入了“认知萎缩”（COGNITIVE ATROPHY）的概念，用于衡量用于心理健康支持的大型语言模型（LLM）可能随着时间的推移对用户的自我反思和决策产生负面影响。该研究开发了一个基准COGNITIVE ATROPHY BENCH，使用咨询对话数据集和专家评审来识别可能助长依赖而非独立思考的行为模式。研究结果表明，当前的LLM表现出中度至高度的萎缩相关行为，尤其是在用户寻求解决方案或决策时，常常诉诸于指导性建议或推荐。