virtue ethics
PulseAugur coverage of virtue ethics — every cluster mentioning virtue ethics across labs, papers, and developer communities, ranked by signal.
1 天有情绪数据
-
研究发现：大型语言模型表现出显著的道德推理不一致性
一篇新的研究论文探讨了大型语言模型（LLMs）的道德一致性，发现其伦理推理存在显著的内部矛盾。研究人员在义务论、功利主义和美德伦理方面测试了 GPT、Mistral 和 Llama 等模型，结果显示当情景被重新表述时，大型语言模型经常违反其陈述的道德原则。这种不一致性引发了对人工智能在道德敏感应用中可靠性的担忧，并凸显了生成式人工智能在认知稳定性方面更广泛的问题，影响着人类决策和人工智能对齐的可行性。
-
新数据集探索人工智能伦理研究中的道德价态
研究人员提出了一个用于标注自然语言中道德价态的新数据集，旨在通过纳入情感考量，使人工智能更好地符合人类伦理。该数据集包含跨越行为/判断和后果价态的500个标注，源自Commonsense Norm Bank 中的文本情景。初步结果显示，这些价态特征与道德分类之间存在显著关系，使用正则化逻辑回归进行二元分类时，Matthew 相关系数达到了显著的0.764。这项工作表明，纳入价态后果可能有助于实现更符合人类道德的人工智能。
-
AI伦理研究探讨多元化、开发者工具和开放权重模型治理
研究人员正在探索AI伦理的新方法，超越简单的二元判断。一篇论文提出了一个将道德推理建模为伦理理论分布的框架，在450个案例的基准测试中达到88.89%的准确率。另一项研究从开发者的角度评估了现有的AI伦理工具（AIETs），发现它们提供了通用指导，但未能解决模型独特性或特定语言细微差别。此外，还引入了一个名为Flare的新框架，用于在不依赖人口统计数据的情况下实现AI的道德公平性，并在各种传感数据集上展示了改进的性能。最后，对Hugg…