Text-based Pain-versus-Gain

新框架通过后果反馈评估LLM的道德决策

研究人员开发了一个名为TPvG（Text-based Pain-versus-Gain，基于文本的痛苦-收益）的新框架，用于评估大型语言模型（LLM）的道德决策能力。与之前呈现孤立场景的方法不同，TPvG纳入了后果反馈，模仿了人类的道德范式。该框架包含五个任务，从简单的单次选择到带有明确反馈的序列决策。初步结果表明，LLM的道德决策受到决策形式的显著影响，并且它们对反馈的响应与人类模式不同，这表明其决策过程可能存在差异。