PulseAugur
中
实时 13:18:33
English(EN) Clinically Grounded Privacy Evaluation of Medical LMs

新的评估框架显示，医疗语言模型存在患者隐私风险

作者 PulseAugur 编辑部 · [1 个来源] ·

一篇新的研究论文介绍了一个用于医疗语言模型的隐私评估框架，该框架侧重于超越简单文本恢复的现实威胁模型。该框架在不同级别的对抗性访问下，评估敏感诊断的逐字记忆和语义泄露。当应用于在临床笔记上训练的模型时，它揭示了就诊元数据的高记忆率以及诸如堕胎和艾滋病等敏感诊断的显著恢复，尽管一些记忆的标记是模板化的。 AI

影响 凸显了医疗语言模型中重大的隐私风险，可能影响医疗保健AI中的数据处理和模型开发实践。

排序理由 该集群包含一篇详细介绍医疗语言模型新评估方法的学术论文。[lever_c_demoted from research: ic=1 ai=1.0]

在 arXiv cs.CL 阅读 →

AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →

报道来源 [1]

  1. arXiv cs.CL TIER_1 English(EN) · Emily Alsentzer ·

    面向临床的医学大语言模型隐私评估

    Medical language models (LMs) can memorize and reproduce protected health information, but privacy evaluations often focus on recovery of training text rather than disclosure under realistic threat models. We introduce a clinically grounded framework that evaluates leakage along …

相关实体

相关话题