一个新基准数据集已被开发出来,用于评估大型语言模型(LLMs)在解读香港消防安全规范方面的表现。研究发现,虽然专有LLMs在多项选择题上达到了80-90%的准确率,但在开放式问题上,经人类专家评估后,其表现下降到50-70%。这表明LLMs在专业的监管合规任务方面存在显著的能力差距。 AI
影响 强调了提高LLMs在专业监管合规任务中的准确性的必要性,尤其是在建筑、工程和施工行业。
排序理由 该集群包含一篇学术论文,详细介绍了用于评估LLMs在特定领域表现的新基准。[lever_c_demoted from research: ic=1 ai=1.0]
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →