研究人员提出了一种称为“转喻电路”的新机制,以解释在训练数据缺乏直接指代证据的情况下,视觉 Transformer 如何为“愤怒”等抽象概念打下基础。该机制表明,抽象预测是由具体的、可解释的锚定概念(如“火”)驱动的,这些概念将视觉信号桥接到抽象语义。使用 Transcoders 在 CLIP 和 DINO 视觉编码器上进行的实验揭示了结构化的转喻电路,其中早期层的感知原语之后是抽象目标之前的类对象锚定。因果干预证实了这些转喻中间体在为抽象概念打下基础方面起着功能性作用。 AI
影响 提出了一个关于理解和潜在改进 AI 模型如何为抽象概念打下基础的新理论框架,这可能会增强它们的推理能力。
排序理由 研究论文,详细介绍了 AI 模型概念基础的新理论机制。[lever_c_demoted from research: ic=1 ai=1.0]
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →