一项新研究评估了四种AI模型在医疗环境下的安全性，特别是在信息缺失的情况下。研究人员发现，评估者的选择显著影响了AI的可感知安全性，与人类临床医生相比，LLM评判者更为宽容。研究强调，问题主要在于AI的校准而非知识准确性，因为模型在封闭式医疗问题上的表现良好。 AI
影响 强调了为医疗AI安全性制定标准化、与人类对齐的评估指标的迫切需求。
排序理由 学术论文，详细介绍了AI安全性的新评估方法。[lever_c_demoted from research: ic=1 ai=1.0]
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →
arXiv:2607.18828v1 Announce Type: new Abstract: Readiness stress-testing of medical AI has focused on closed-ended and multimodal benchmarks. We extend it to open-ended clinical conversation under missing information, where safe behavior means recognizing absent information and q…