deontology
PulseAugur coverage of deontology — every cluster mentioning deontology across labs, papers, and developer communities, ranked by signal.
2 天有情绪数据
-
新的OMIT基准衡量LLM在道德推理中的遗漏偏见
研究人员开发了一个名为OMIT的新基准，用于评估大型语言模型（LLMs）在协助道德推理时的遗漏偏见。该基准包含218个场景，旨在揭示LLMs如何在不同框架下导致不同结果的情况下，仍然倾向于不作为。对八个LLMs的评估表明，遗漏偏见很普遍，尽管在特定家族的模型中，遗漏偏见倾向于随着模型尺寸的增大而减小。研究还测试了鼓励LLMs考虑道德原则的干预措施，发现这些措施可以减少遗漏偏见，但在某些情况下也可能导致行动偏见。
-
新框架改进了论述文本的语义相似性分析
研究人员开发了一个新颖的高级文本预处理框架，旨在改进论述文本的语义相似性分析。该方法旨在减轻语义扩散，即通过讨论获得的词汇而非实质性一致性而导致相似性得分膨胀。该框架引入了12条规则，在标准的自然语言处理预处理之前，将文档的核心论点与其论述结构分离开来。在斯坦福哲学百科全书的哲学文本上进行的经验性演示表明，这种预处理通过一个称为语义扩散指数（SDI）的新指标衡量，降低了相似性得分并提高了跨模型的一致性。
-
研究发现：大型语言模型表现出显著的道德推理不一致性
一篇新的研究论文探讨了大型语言模型（LLMs）的道德一致性，发现其伦理推理存在显著的内部矛盾。研究人员在义务论、功利主义和美德伦理方面测试了 GPT、Mistral 和 Llama 等模型，结果显示当情景被重新表述时，大型语言模型经常违反其陈述的道德原则。这种不一致性引发了对人工智能在道德敏感应用中可靠性的担忧，并凸显了生成式人工智能在认知稳定性方面更广泛的问题，影响着人类决策和人工智能对齐的可行性。
-
AI伦理研究探讨多元化、开发者工具和开放权重模型治理
研究人员正在探索AI伦理的新方法，超越简单的二元判断。一篇论文提出了一个将道德推理建模为伦理理论分布的框架，在450个案例的基准测试中达到88.89%的准确率。另一项研究从开发者的角度评估了现有的AI伦理工具（AIETs），发现它们提供了通用指导，但未能解决模型独特性或特定语言细微差别。此外，还引入了一个名为Flare的新框架，用于在不依赖人口统计数据的情况下实现AI的道德公平性，并在各种传感数据集上展示了改进的性能。最后，对Hugg…