研究人员开发了一种使用稀疏自编码器(SAEs)来解释医疗AI检索系统中的密集嵌入的方法。该方法旨在使这些系统的底层机制更加透明,并提高它们在新医疗数据集上的迁移能力。通过结合重构和InfoNCE对比损失,SAEs不仅提高了领域内检索性能,而且与标准的密集嵌入相比,在领域外性能下降幅度减小。SAEs生成的解释性特征可以解释为什么会检索到特定文档,并在不同分布下保持其语义内容。 AI
影响 增强了医疗AI检索系统的可解释性,有望提高临床环境中的信任度和性能。
排序理由 该集群包含多个版本的学术论文,详细介绍了用于解释AI模型的新研究方法。
在 arXiv cs.IR (Information Retrieval) 阅读 →
- alphaXiv
- arXiv
- CatalyzeX
- DagsHub
- Gotit.pub
- Hugging Face
- Influence Flower
- InfoNCE
- ScienceCast
- Sparse Autoencoders
- Diane Bouchacourt
AI 生成摘要 · Google Gemini · 来自 4 个来源。 我们如何撰写摘要 →