研究人员推出了CSWBench,一个旨在评估大型语言模型(LLM)在创意写作中上下文敏感语码转换能力的新基准。该基准包含两种设置:聚焦叙事(Focused Narrative)和扩展叙事(Extended Narrative),并附带CSWEval框架,用于评估事件和整篇文本级别的语言切换。对十二个LLM的初步评估显示,它们的语码转换能力各不相同但值得注意,与一般的叙事质量相比,模型在多语言文学整合方面表现出特别的困难。 AI
影响 该基准有望促使对多语言LLM能力进行更细致的评估,从而推动用于创意和跨文化内容生成的模型改进。
排序理由 该集群描述了一篇介绍用于评估LLM能力的基准的新学术论文。[lever_c_demoted from research: ic=1 ai=1.0]
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →