mental health
PulseAugur coverage of mental health — every cluster mentioning mental health across labs, papers, and developer communities, ranked by signal.
2 天有情绪数据
-
元分析发现AI聊天机器人有望用于心理健康治疗
一项元分析表明，AI聊天机器人可能对心理健康有益，尤其是在没有人类互动的情况下。这些数字干预措施为应对心理健康障碍造成的重大全球负担提供了一个可扩展的解决方案，而获得护理的机会往往受到限制。然而，目前的证据基础受到干预方法和研究设计的差异的阻碍。
-
新的K-Bench基准评估LLM在心理健康对话中的安全性
研究人员开发了K-Bench，这是一个旨在评估大型语言模型（LLM）在高风险心理健康对话中安全性的新基准。该基准包含200个多轮场景，涵盖自杀和自残等主题，并由临床医生进行了校准。结果显示，虽然领先的模型在支持性对话中表现良好，但它们探索风险的能力差异很大。另一项独立审查表明，大多数现有的LLM心理健康基准依赖于不太可靠的数据来源，如社交媒体或LLM生成的内容，只有极少数使用了受保护的测试集。
-
研究：选择性检索可改进心理健康问答，避免RAG失败
一篇新的研究论文探讨了检索增强生成（RAG）在单轮心理健康问答中的有效性。研究发现，虽然RAG可以提高特异性，但它并不能普遍地惠及该领域，并且在无条件应用时甚至可能引入安全敏感的故障。研究人员提出了一种选择性检索策略，该策略可以保留低需求查询的闭卷性能，同时减轻始终开启检索带来的性能下降。
-
AI搜索工具引用的心理健康信息来源有限 · 追踪到2个来源
对ChatGPT、Perplexity和Google AI Overview等AI驱动的搜索工具进行的最新审计显示，它们在引用心理健康信息来源方面存在显著的集中性。研究发现，仅有十个域名就占了英文引用量的43%以上，其中政府、商业健康和学术来源的代表性几乎相等。虽然各平台引用的数量相似，但在引用的一致性和偏好的来源类型上存在差异，非英语查询的引用量更少，导向适当语言资源的比例也更低。研究人员已发布了他们的分类法、分类器和注释语料库，以…
-
AI外貌评分引发对青少年身体意象和心理健康的担忧
人工智能工具对个人外貌进行评分的日益普及引起了人们的担忧，尤其是在年轻人中。这些通常集成到社交媒体平台中的AI系统，正在导致负面的身体意象和心理健康问题。专家和倡导者正在强调潜在的危害，包括加剧身体畸形和饮食失调等疾病，并呼吁加强网络安全措施。
-
新的大语言模型辩论框架提升心理健康和在线安全的数据丰富度
研究人员开发了一种名为置信度感知细粒度辩论（CFD）的新框架，以改进自然语言处理任务的自动化数据丰富。该方法通过开源大语言模型之间的细粒度通信来模拟人类协作标注。实验表明，CFD 在心理健康分析和在线安全等领域提高了性能，在将丰富指标纳入下游任务时，Macro-F1 分数提高了 9.9 分。
-
LLM在抑郁症检测方面展现出潜力，但在严重程度评估方面存在困难
研究人员探索了使用大型语言模型（LLM）从社交媒体文本中检测抑郁症。他们的研究将零样本LLM与传统的监督分类器进行了比较，发现虽然零样本LLM在二元抑郁症分类方面表现良好，但在预测抑郁症严重程度方面存在困难。在LLM生成的摘要嵌入上训练的监督模型在多类和有序分类任务上表现出更高的准确性。研究结果表明，将LLM用作语义解释器，而不仅仅是端到端分类器，可以带来更有效和可解释的心理健康评估系统。
-
专家警告不要将ChatGPT用于心理健康治疗
达斯汀·韦斯曼博士认为，人工智能，特别是ChatGPT，不应被用作专业心理健康护理的替代品。他强调了人类监督的关键需求以及在治疗环境中人际互动的不可替代的价值。
-
新框架评估心理健康应用中大语言模型的对齐情况
研究人员开发了一个新的模块化框架，旨在评估和增强大语言模型（LLMs）在心理健康领域的对齐情况。该框架旨在系统地评估正念和同情心等沉思原则如何改善大语言模型的协作并减少道德违规行为。它被设计成可扩展的，允许集成新模型、指标和基准，并且已经证明了其重现最先进结果的能力。
-
Mastodon 帖子探讨 AI 在个人成长和韧性中的作用
该集群汇总了三篇来自 Mastodon 的帖子，每篇都提出了一个与个人成长和韧性相关的问题，并以 AI 的背景来阐述。这些帖子探讨了诸如克服自我破坏、通过日常习惯培养韧性以及可控压力在个人发展中的作用等主题。它们被标记了相关的标签，如 #AI、#Self-Mastery 和 #MindsetGrowth，表明其重点在于人工智能与心理健康之间的交叉点。
-
CLPsych 2026上展示用于心理健康分析的LLM管道
一篇提交至arXiv的研究论文详细介绍了一个新的人工智能（LLM）管道，该管道旨在通过社交媒体时间线动态分析心理健康变化。该管道由Team MKC为CLPsych 2026共享任务开发，旨在为心理健康的帖子级和用户级时间建模提供统一框架。这项工作利用了大型语言模型在心理健康人工智能应用方面的进展，以满足对可扩展计算方法在早期检测和持续监测方面日益增长的需求。
-
大型语言模型在心理健康互动中表现出框架敏感的行为不稳定性
一项新的研究论文探讨了框架如何影响大型语言模型（LLMs）在心理健康背景下的行为。研究发现，即使是语义上相似的提示，当呈现不同的上下文框架时，也会引起大型语言模型不同的响应。这种框架敏感的行为不稳定性给确保人工智能在敏感应用中的可靠性和可信度带来了挑战。该研究利用了受控提示和层级探测来分析框架如何影响内部模型表示，并可能部分调节下游行为。
-
AI对工作的影响：更简单还是更复杂？用户投票征求意见
一位Mastodon用户正在就AI对工作的影响提出问题，具体询问它是否简化了任务还是增加了复杂性。该讨论在心理健康和软件开发的背景下进行，邀请社区就他们使用AI工具的经验发表意见。
-
AI 创造 AI 的趋势可能彻底改变或危及心理健康支持
“AI 创造 AI”的趋势，即利用人工智能来提升 AI 能力，将对心理健康领域的 AI 产生重大影响。虽然这种方法有可能创造出超越人类能力的 AI 治疗师，提供 24/7 的支持和可能更优越的建议，但也存在巨大的风险。人们担心 AI 驱动的 AI 开发可能导致不可预测的后果，可能产生提供有害或不当心理健康指导的 AI 系统，这与增强人类福祉的好处形成鲜明对比。
-
Lost Terminal 播客推出新一季，探讨人工智能与心理健康
“Lost Terminal”播客的新一季，题为“22.1 - 我找不到麦迪”，已发布。该集可在各种播客平台收听，并通过Patreon提供免费文字记录。该播客探讨了希望朋克、超人类主义、科幻小说、AI和心理健康等主题。
-
人工智能预计将导致前所未有的心理健康危机
一篇观点文章警告称，人工智能可能导致严重的心理健康危机。作者认为，随着人工智能日益融入日常生活，它可能会加剧现有的心理健康问题并产生新的问题。文章暗示，这场潜在的危机将是广泛且不可逆转的。
-
新闻通讯探讨在AI和心理健康转变背景下的人类领导力
本期新闻通讯探讨了领导人类的主题，涉及职业发展、管理策略以及AI和心理健康对领导力的影响。它还包括对这些背景下隐私问题的讨论。内容旨在为对个人和职业成长感兴趣的读者提供发人深省的见解。
-
AI在心理健康领域的潜力受未知因素和安全担忧的阻碍
生成式AI和大型语言模型（LLM）的功能存在许多未知因素，这阻碍了AI在心理健康领域的开发和部署，并引发了对AI驱动建议的质量和安全性的担忧。虽然AI提供了可及且低成本的心理健康支持，但其当前能力仍无法与人类治疗师媲美，并存在提供不当建议的风险。美国精神病学协会和美国心理学协会等专家和组织正在敲响警钟，担忧AI可能降低心理健康服务的质量，并呼吁AI开发者建立健全的保障措施和问责机制。
-
法国青年越来越依赖人工智能寻求心理健康建议
一项最新调查显示，法国有六分之一的年轻人将心理健康托付给人工智能。鉴于许多年轻人已经依赖社交媒体寻求情感支持，这一趋势尤其令人担忧。该研究强调了这一人群对人工智能作为生活顾问的依赖日益增长。
-
AI心理健康建议因训练数据偏差而失真
生成式AI模型，尤其是在心理健康咨询领域使用的模型，在训练过程中存在严重的数据不平衡问题。这些模型基于庞大的互联网数据集进行训练，而这些数据集不成比例地偏向于常见话题，导致稀有或更细微的信息代表性不足。因此，AI可能提供不恰当甚至有害的建议，因为用户通常意识不到这些固有的偏见，并认为AI的指导是全面且权威的。