一项名为 AraBehave 的新基准已被开发出来,用于评估大型语言模型(LLMs)在阿拉伯文化背景下的适宜性。该基准包含 1,600 多个提示和人类判断,揭示文化适宜性包含两个不同的组成部分:规范立场和基于事实的文化准确性。像 Gemini 这样的通用模型虽然具有很强的基于事实的准确性,但它们通常采取文化上不适宜的规范立场。相反,以阿拉伯语为中心的模型可能采取预期的立场,但会受到虚构的宗教内容或引述错误经文的影响。研究表明,立场很容易受到指令的影响,而准确性则与模型规模和阿拉伯语数据对齐有关。 AI
影响 强调了在通用安全指标之外,开发和评估具有文化敏感性的大型语言模型的需求。
排序理由 该集群基于一篇介绍用于评估大型语言模型的新基准的学术论文。
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →