一篇新发表在arXiv上的研究探讨了开放语言模型在西班牙MIR住院医师资格考试中的能力。研究人员评估了四种参数量从80亿到270亿不等的模型,评估了它们的准确性、不确定性、推理能力和图像使用情况。参数量较大的模型表现出具有竞争力的性能,有可能排在前列,但它们的置信度与准确性并不总是相关。医学微调提高了置信度,但降低了整体准确性,并且模型给出正确答案的推理并不总是临床上合理的。此外,移除或更改提供的图像并未影响模型的性能。 AI
影响 这项研究深入探讨了开放语言模型在高风险医疗环境中的实际应用和局限性,并指出了未来在推理和不确定性量化方面的发展方向。
排序理由 发表在arXiv上的研究论文,评估了LLM在特定医学考试中的表现。[lever_c_demoted from research: ic=1 ai=1.0]
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →