CSWEval

新基准评估LLM在创意写作中的上下文敏感语码转换能力

研究人员推出了CSWBench，一个旨在评估大型语言模型（LLM）在创意写作中上下文敏感语码转换能力的新基准。该基准包含两种设置：聚焦叙事（Focused Narrative）和扩展叙事（Extended Narrative），并附带CSWEval框架，用于评估事件和整篇文本级别的语言切换。对十二个LLM的初步评估显示，它们的语码转换能力各不相同但值得注意，与一般的叙事质量相比，模型在多语言文学整合方面表现出特别的困难。