PulseAugur
实时 10:35:03
English(EN) CultureTalk-ID: A Multi-Task Dialogue Benchmark for Cultural Commonsense in Indonesian Local Languages

新基准评估大型语言模型在印尼文化常识对话方面的能力

研究人员推出了CultureTalk-ID,这是一个旨在评估大型语言模型(LLMs)在印度尼西亚本土语言中的文化常识能力的新型基准。与使用孤立提示的先前基准不同,CultureTalk-ID使用了跨越11种语言和13个主题的4,496个文化背景对话,以评估LLMs对文化细微语言的理解和生成能力。该基准包括三个任务:基于对话的多项选择推理、文化忠实机器翻译和语言引导。 AI

影响 该基准可以提高LLMs在理解和生成特定文化语言方面的性能,增强其在不同语言环境中的实用性。

排序理由 该集群描述了一篇介绍LLM基准的新学术论文。[lever_c_demoted from research: ic=1 ai=1.0]

在 arXiv cs.CL 阅读 →

AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →

新基准评估大型语言模型在印尼文化常识对话方面的能力

报道来源 [1]

  1. arXiv cs.CL TIER_1 English(EN) · Muhammad Dehan Al Kautsar, Salsabila Pranida, Bilal Elbouardi, Fajri Koto ·

    CultureTalk-ID:印度尼西亚本地语言文化常识的多任务对话基准

    arXiv:2607.21016v1 Announce Type: new Abstract: Culture is lived through conversation, yet existing Indonesian cultural commonsense benchmarks evaluate LLMs on short and isolated prompts, stripping away the dialogic context in which cultural nuances actually surface. We introduce…