English(EN) Toward Contemplative LLM: A Modular Framework for Evaluating and Enhancing LLM Alignment in Mental Health

新框架评估心理健康应用中大语言模型的对齐情况

作者 PulseAugur 编辑部 · [1 个来源] · 2026-07-14 04:00

研究人员开发了一个新的模块化框架，旨在评估和增强大语言模型（LLMs）在心理健康领域的对齐情况。该框架旨在系统地评估正念和同情心等沉思原则如何改善大语言模型的协作并减少道德违规行为。它被设计成可扩展的，允许集成新模型、指标和基准，并且已经证明了其重现最先进结果的能力。 AI

影响该框架有望带来更值得信赖和对社会更有益的人工智能系统，尤其是在心理健康等敏感领域。

排序理由该条目是一篇学术论文，详细介绍了一个用于评估大语言模型对齐情况的新框架。[lever_c_demoted from research: ic=1 ai=1.0]

AI 生成摘要 · Google Gemini · 来自 1 个来源。我们如何撰写摘要 →

报道来源 [1]

arXiv cs.AI TIER_1 English(EN) · Asher Sprigler, Yang-Yang Feng, Iftach Amir, Jonathan E. Bogard, Todd S Braver, Yi Ding, David Kinney, Yixue Zhao · 2026-07-14 04:00

迈向沉思型大语言模型：用于评估和增强心理健康领域大语言模型对齐的模块化框架

arXiv:2607.10871v1 Announce Type: new Abstract: Contemplative traditions have long guided ethical behavior and prosocial interaction, and recent work suggests that contemplative principles (e.g., mindfulness, compassion, non-dual reasoning) may offer a promising paradigm for alig…