Octavian M. Machidon

研究发现：大型语言模型在道德判断上或与人类一致，但缺乏对齐

一项新的研究论文认为，大型语言模型（LLMs）在道德困境上的判断与人类高度一致，但这并不一定等同于真正的对齐。该研究分析了超过500个道德判断场景，发现尽管大型语言模型在最终标签上常常与人类匹配，但其潜在的推理过程和道德原则却经常出现分歧。这表明，当前基于标签的评估可能对大型语言模型的对齐程度产生误导性的乐观判断，因此需要对模型判断背后的理由进行更深入的分析。