MindEth-Bench

新基准评估多轮心理健康支持中的大语言模型伦理

研究人员开发了MindEth-Bench，这是一个旨在评估在中国背景下多轮心理健康支持场景中大语言模型（LLMs）的伦理界限遵守情况的新基准。与以往侧重于支持能力的标准不同，MindEth-Bench专门测试大语言模型在延长互动中是否能保持伦理标准，即使面对用户压力。使用此基准进行的实验表明，大语言模型尽管最初反应恰当，但随着时间的推移可能会出现伦理违规行为，这表明单轮评估可能无法准确反映其长期的伦理可靠性。