实体
MedHallu
MedHallu
PulseAugur coverage of MedHallu — every cluster mentioning MedHallu across labs, papers, and developer communities, ranked by signal.
总计 · 30天
0
90 天内 2
发布 · 30天
0
90 天内 0
论文 · 30天
0
90 天内 2
层级分布 · 90 天
主题
最近 · 第 1/1 页 · 共 2 条
-
新研究揭示了光谱诊断在理解LLM幻觉方面的局限性
研究人员开发了一个新的诊断框架，通过分析大型语言模型（LLM）的自注意力机制来理解其产生幻觉的原因。该方法侧重于注意力的“传输”特性，可以区分算子及其转置，这是先前光谱诊断的局限性。这种新方法使用不对称系数来量化方向信息流，并在多达80亿参数的模型中显示出可解释的信号，其预测已在幻觉基准测试中得到验证。
-
CareGuardAI框架提升了患者端医疗保健LLM的安全性和准确性
研究人员开发了CareGuardAI，一个旨在减轻用于患者端医疗保健应用的大型语言模型（LLM）的临床风险和幻觉的新安全框架。该系统借鉴了ISO 14971，纳入了临床安全和事实可靠性的风险评估模块。CareGuardAI采用多阶段管道，包含一个控制器智能体和双重风险评估，以确保响应在发布给患者之前达到安全阈值。