PulseAugur
实时 13:08:45

新基准LexRubric测试LLM处理中文法律任务的能力

研究人员开发了LexRubric,一个旨在评估大型语言模型在中国法律开放式任务上表现的新基准。该基准包含649个实例,涵盖法律咨询和司法考试,拥有超过12,000条专家编写的跨六个维度的评分标准。对18个LLM的初步测试显示了不同的能力特征,表明当前模型在复杂的法律推理方面仍有困难。 AI

影响 该基准将有助于识别LLM在法律应用中的弱点,指导未来开发更可靠的法律AI。

排序理由 该集群包含一篇介绍用于评估LLM的新基准的学术论文。[lever_c_demoted from research: ic=1 ai=1.0]

在 arXiv cs.CL 阅读 →

AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →

报道来源 [1]

  1. arXiv cs.CL TIER_1 English(EN) · Yiqun Liu ·

    LexRubric:一个基于评分标准的开放式法律任务诊断基准

    As large language models (LLMs) are increasingly applied to real-world legal tasks, evaluating the reliability of their open-ended legal responses has become essential. These tasks require context-sensitive answers and allow little room for error, motivating fine-grained and diag…