一项名为 DGEval 的新基准已被开发出来,用于评估大型语言模型 (LLM) 在理解和遵守《国际海运危险货物规则》(IMDG Code) 方面的表现。该基准包含 1,678 个问题,评估 LLM 在分类、包装、积载和隔离等任务上的表现,重点关注 IMDG 第 42-24 号修订案。虽然一些模型在结构化数据查找和多项选择题方面表现出潜力,但在积载和隔离等操作领域却显示出显著的弱点,这凸显了在安全关键的海事应用中持续需要人工监督。 AI
影响 强调了开发专门基准以确保 LLM 在安全关键的监管合规任务中的可靠性的必要性。
排序理由 该项目是一篇研究论文,介绍了一个用于评估 LLM 在特定监管领域表现的新基准。 [lever_c_demoted from research: ic=1 ai=1.0]
- Dangerous Goods List
- DGEval
- Hugging Face
- IMDG Amendment 42-24
- International Maritime Dangerous Goods Code
- NCB Hazcheck
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →