U-SPACE

U-Space 框架为大语言模型添加置信度得分以增强 AI 安全性

一个名为 U-Space 的新框架已被开发出来，用于量化大语言模型 (LLM) 的不确定性，为其输出提供一个“置信度指示器”。该 U-Score 旨在标记可能不正确的回答，这对于金融、医疗和法律等高风险应用至关重要，因为在这些领域，幻觉可能导致严重后果。U-Space 技术在 arXiv 的一篇论文中进行了详细介绍，它通过测量多个模型完成之间的分歧并将此转化为可解释的分数来工作，从而使系统能够将不确定的答案路由给人工审查或添加免责声明。