一篇新论文提出，大型语言模型中的最佳语义表征并非仅来自最后一个标记或专用的 CLS 标记。相反，模型对其输出最全面的理解分布在其所有内部状态中。这挑战了依赖特定标记进行语义解释的传统方法。 AI
影响 挑战了当前解释 LLM 输出的方法，可能导致模型理解和评估方面的新研究。
排序理由 该集群包含一篇讨论 LLM 内部状态新理解方法的论文。[lever_c_demoted from research: ic=1 ai=1.0]
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →
<div class="medium-feed-item"><p class="medium-feed-snippet">Every embedding pipeline reads the final token or the CLS token. The model’s best understanding of what it just said is distributed across…</p><p class="medium-feed-link"><a href="https://pub.towardsai.net…