一项新研究发布在arXiv上,使用MedQA数据集中的医学选择题,对传统决策模型和生成式大语言模型(LLMs)进行了基准测试。研究发现,虽然LLM配置实现了更高的准确率,范围从78.32%到96.86%,而决策模型为67.71%到89.08%,但像Mercury Decide这样的特定决策模型提供了显著更低的每查询成本。在测试的配置中,Clef Omni显示出最短的请求持续时间。研究还强调,决策模型的概率可以区分正确答案,但其高置信度下的错误率和概率可重复性,在为医学工作流程选择模型时,需要与准确率和资源需求一起仔细考虑。 AI
影响 突出了LLM准确率与决策模型成本/速度在医学问答等专业任务上的权衡。
排序理由 该集群包含一篇发布在arXiv上的研究论文,详细介绍了AI模型的基准测试比较。[lever_c_demoted from research: ic=1 ai=1.0]
- alphaXiv
- arXiv
- CatalyzeX Code Finder for Papers
- Connected Papers
- CORE Recommender
- DagsHub
- Gotit.pub
- Hugging Face
- Influence Flower
- Litmaps
- MedQA
- Mercury Decide
- ScienceCast
- scite Smart Citations
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →