PulseAugur
实时 12:15:39
English(EN) The Hyperspherical Geometry of CLIP Latent Space: A Semantic Mixture Model

新模型捕捉CLIP潜在空间的超球面几何

研究人员开发了一种新的概率模型来理解CLIP(一种语言-图像预训练模型)的潜在空间。该模型基于冯·米塞斯-费舍尔分布混合模型,与传统的高斯假设相比,能更好地捕捉CLIP语义嵌入空间的超球面几何。所提出的方法使用期望最大化算法来识别潜在空间中的语义概念,从而提高了长尾和分布外检测等任务的性能。 AI

影响 这项研究为理解和建模多模态表示提供了更准确的概率框架,有可能改进分布外检测等下游任务。

排序理由 该集群包含一篇学术论文,详细介绍了一种分析AI表示的新模型。

在 arXiv cs.LG 阅读 →

AI 生成摘要 · Google Gemini · 来自 2 个来源。 我们如何撰写摘要 →

新模型捕捉CLIP潜在空间的超球面几何

报道来源 [2]

  1. arXiv cs.LG TIER_1 English(EN) · Zijie Yu, Gaowen Liu, Ramana Rao Kompella, Philip S. Yu, Yue Song ·

    CLIP潜在空间的超球面几何:一种语义混合模型

    arXiv:2607.13660v1 Announce Type: new Abstract: Contrastive Language-Image Pretraining (CLIP) representations form a semantic embedding space governed by cosine similarity, reflecting an intrinsic hyperspherical geometry. However, existing probabilistic interpretations typically …

  2. arXiv cs.LG TIER_1 English(EN) · Yue Song ·

    CLIP潜在空间的超球面几何:一种语义混合模型

    Contrastive Language-Image Pretraining (CLIP) representations form a semantic embedding space governed by cosine similarity, reflecting an intrinsic hyperspherical geometry. However, existing probabilistic interpretations typically rely on Gaussian assumptions, which fail to capt…