one-hot labels

新的超球面表示支持向后兼容的AI检索

研究人员开发了一种用于AI系统向后兼容检索的新方法，解决了模型更新时重新索引的昂贵过程。所提出的超球面单纯形表示源自softmax输出和logits，利用独热标签的几何结构，在无需兼容性特定训练或架构更改的情况下，跨模型版本保持一致性。该方法在理论上保证了在某些分布假设下的兼容性，并在标准基准测试中取得了有竞争力的结果，即使在扩展的类别集和更具表现力的架构下也是如此。