实体
DailyDilemmas
DailyDilemmas
PulseAugur coverage of DailyDilemmas — every cluster mentioning DailyDilemmas across labs, papers, and developer communities, ranked by signal.
总计 · 30天
0
90 天内 2
发布 · 30天
0
90 天内 0
论文 · 30天
0
90 天内 2
层级分布 · 90 天
主题
最近 · 第 1/1 页 · 共 2 条
-
新的提示结构增强了大型语言模型的道德推理能力并减少了偏见
研究人员开发了一种名为Narration-of-Thought (NoT) 的新系统提示，旨在提高大型语言模型的道德推理能力。NoT将模型的思考过程分为五个不同的部分：主角、利益相关者、后果、不确定性和承诺。这种方法在不需要额外训练或参数的情况下，显著减少了道德困境中利益相关者崩溃和不确定性压制等问题。在对多个大型语言模型生成器进行测试时，NoT极大地改善了利益相关者的识别和对未知信息的明确承认，从而为代理部署提供了更可审计和更可靠的输出。
-
新框架增强LLM伦理对齐，康奈尔大学开发困境测试
研究人员开发了一个新框架，以提高大型语言模型与人类价值观和情感的伦理对齐。这种新颖的方法超越了当前的提示方法，旨在指导AI代理做出反映复杂社会规范的决策。此外，康奈尔大学的研究人员引入了一个名为DailyDilemmas的新测试，通过日常伦理场景来分析LLM的社会价值偏好。