大型语言模型小说因训练后过程而遭受“叙事扁平化”

一篇题为《叙事扁平化：训练后过程如何压缩大型语言模型小说中的主题、情感和风格变化》的新研究论文，探讨了大型语言模型生成的创意写作被认为缺乏深度的现象。该研究将不同训练阶段（基础模型、SFT、DPO、RLVR）的大型语言模型输出与人类撰写的不同领域的小说进行比较。研究结果表明，训练后过程显著减少了大型语言模型生成故事中的主题过渡、情感强度和风格多样性，这种效应被称为“叙事扁平化”。这种扁平化现象在所有类型的故事中都有观察到，但在专业文学小说中最为明显，这表明对齐技术可能会使大型语言模型的输出对原始叙事风格的敏感度降低。 AI

影响 这项研究强调了当前大型语言模型训练方法可能限制了创造性表达，并表明需要新的方法来在人工智能生成的小说中保留风格和主题的丰富性。

排序理由 该集群包含一篇详细介绍大型语言模型创意写作能力研究结果的研究论文。[lever_c_demoted from research: ic=1 ai=1.0]

在 arXiv cs.CL 阅读 →

• Narrative Flattening: How Post-Training Compresses Thematic, Affective, and Stylistic Variation in LLM Fiction
• OLMo 32B
• StoryStar
• The New Yorker

• 论文
• 模型发布

AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →