Letian Shi

新研究表明人工智能的共情无需牺牲可靠性

一篇新的arXiv论文挑战了共情语言模型本质上可靠性较低的观点。研究人员发现，虽然可能存在一些能力上的权衡，但任务对齐的自适应语调可以同时提高共情能力和目标可靠性。该研究利用提示、监督微调（SFT）和强化学习（RL）来诱导温暖的行为，并在多个模型家族和11个数据集的基准套件上进行了评估。研究结果表明，模型可以被训练得在社交互动中更具支持性，而不会牺牲其事实准确性。