研究人员开发了DECODE,一个旨在提高大型语言模型(LLM)自动化解释过程可靠性的可视化分析系统。该系统通过将诊断工作流分解为三个阶段来隔离故障来源,重新引入了人工监督。DECODE使用独立生成解释之间的一致性作为可靠性的代理,并采用主动播种协议来优先进行人工审查,这在涉及16,384个稀疏自动编码器特征的案例研究中得到了证明。 AI
影响 增强了LLM解释工具的可靠性,从而实现了更值得信赖的AI开发。
排序理由 该项目是一篇研究论文,详细介绍了一个用于诊断LLM可解释性失败的新系统。[lever_c_demoted from research: ic=1 ai=1.0]
- alphaXiv
- arXiv
- CatalyzeX Code Finder for Papers
- Connected Papers
- CORE Recommender
- DagsHub
- DECODE
- Gotit.pub
- Hugging Face
- Influence Flower
- large-language models
- Litmaps
- ScienceCast
- scite Smart Citations
- Sparse Autoencoder
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →