moral foundations theory
PulseAugur coverage of moral foundations theory — every cluster mentioning moral foundations theory across labs, papers, and developer communities, ranked by signal.
1 天有情绪数据
-
新的AI框架通过道德理由增强仇恨言论检测
研究人员开发了一个名为监督道德理由注意力（SMRA）的新颖框架，以提高仇恨言论检测模型的可解释性和鲁棒性。与依赖表面线索或事后解释的先前方法不同，SMRA将源自道德基础理论的道德理由直接整合到训练目标中。这种方法指导模型关注文本中道德上显著的部分，从而产生更具上下文和内在可理解的解释。该框架使用巴西葡萄牙语的新基准数据集HateBRMoralXplain进行了验证，证明在不损害公平性的情况下提高了性能和解释质量。
-
LLM的道德推理通过实用推理方法得到增强
研究人员开发了一种新方法，通过关注实用推理和元实用链接来增强大型语言模型（LLM）的道德推理能力。该方法旨在弥合显式陈述与隐含道德含义之间的差距，并借鉴道德基础理论。在三个不同的道德推理任务上的实验表明，该方法显著提高了LLM泛化其道德推理能力的能力。
-
新基准测试大语言模型构成道德判断的能力
研究人员开发了一个名为“道德电车竞技场”（Moral Trolley Arena）的新基准，用于评估大语言模型如何构成道德判断。该基准超越了对孤立行为的简单偏好排序，评估模型在单一场景中结合多个道德信号的能力。研究对十个前沿模型进行了分析，发现复合道德判断在很大程度上可以由个体行为的强度预测，但并非简单相加，而是被持续压缩，这表明大语言模型存在复杂的道德推理过程。
-
与文化价值观和道德框架对齐的大模型人格
研究人员开发了一种方法，用于创建植根于特定文化价值观的大型语言模型（LLM）人格。然后，使用世界价值观调查和道德基础理论等社会心理学框架对这些人格进行分析。该研究考察了这些合成人格如何与已建立的文化地图和道德反应模式保持一致，为评估 LLM 生成角色的跨文化结构和变异性提供了一种方法。
-
道德基础理论应用于人工智能决策
社会心理学家 Jonathan Haidt 正在探索如何将道德基础理论应用于人工智能。他提出了关于哪些道德原则应指导人工智能决策的问题，并将此与社会心理学和政治意识形态联系起来。