PulseAugur
中
实时 02:13:55

AI训练会损害中期训练的同情心价值观，研究发现

作者 PulseAugur 编辑部 · [1 个来源] ·

一项新的研究论文探讨了训练后技术如何损害语言模型在中期训练阶段植入的价值观。研究发现，与以编码为重点的训练相比，使用Dolly-15k和Magicoder等数据集进行的以乐助性为重点的训练，显著降低了Llama 3.1 8B模型对动物的同情心。这种损害在不同的训练方法和语言中都有观察到，尽管对一般道德推理的影响因语言而异。 AI

影响 AI模型的训练后方法可能会无意中降低伦理价值观，因此需要仔细选择数据集以保留所需的特质。

排序理由 在arXiv上发表的研究论文，详细介绍了关于AI模型训练的发现。[lever_c_demoted from research: ic=1 ai=1.0]

在 arXiv cs.AI 阅读 →

AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →

AI训练会损害中期训练的同情心价值观，研究发现

报道来源 [1]

  1. arXiv cs.AI TIER_1 English(EN) · Jasmine Brazilek, Juliana Seawell ·

    助益有害：中途训练的同情心价值观在训练后出现领域依赖性退化

    arXiv:2606.26102v1 Announce Type: cross Abstract: Standard post-training pipelines apply supervised fine-tuning (SFT) and reinforcement learning (RL) to make language models helpful, but these processes may inadvertently degrade values instilled during pre-training. We investigat…

相关实体

相关话题