Narration-of-Thought

新的提示结构增强了大型语言模型的道德推理能力并减少了偏见

研究人员开发了一种名为Narration-of-Thought (NoT) 的新系统提示，旨在提高大型语言模型的道德推理能力。NoT将模型的思考过程分为五个不同的部分：主角、利益相关者、后果、不确定性和承诺。这种方法在不需要额外训练或参数的情况下，显著减少了道德困境中利益相关者崩溃和不确定性压制等问题。在对多个大型语言模型生成器进行测试时，NoT极大地改善了利益相关者的识别和对未知信息的明确承认，从而为代理部署提供了更可审计和更可靠的输出。