研究人员正在探索大型语言模型(LLM)如何处理道德推理和情境。一项研究引入了“道德推理轨迹”来分析LLM在决策过程中如何在不同的伦理框架之间切换,发现这些轨迹可能不稳定且容易受到攻击。另一篇论文提出了COMETH框架,该框架将概率情境学习与LLM相结合,以模拟情境如何影响行为的可接受性,旨在实现比端到端LLM提示更具可解释性的道德AI。 AI
影响 这些研究促进了对LLM伦理推理的理解,可能导致更强大、更可解释的AI对齐技术。
排序理由 该集群包含两篇在arXiv上发表的学术论文,讨论了LLM在道德推理和情境化方面的能力。
- COMETH
- Ismael Tito Freire González
- k-means clustering
- large-language models
- MiniLM: Deep Self-Attention Distillation for Task-Agnostic Compression of Pre-Trained Transformers
- alphaXiv
- arXiv
- Fan Huang
- Hugging Face
- Llama 3.3 70B Instruct
- Moral Representation Consistency
- Qwen2.5-72B
AI 生成摘要 · Google Gemini · 来自 2 个来源。 我们如何撰写摘要 →