PulseAugur
实时 12:50:25
English(EN) Trajectory Dynamics in Language Model Hidden States Predict Human Processing Costs Beyond Surprisal

新指标预测语言处理成本超越意外性

研究人员引入了一种名为轨迹外推误差的新指标,以更好地预测人类语言处理成本。该指标分析了 Transformer 语言模型隐藏状态的轨迹,超越了传统的意外性度量。研究结果表明,这一新指标独立预测阅读时间,并且对于复杂的句子结构尤其有效,随着模型规模的增大而增强。 AI

影响 引入了一个新的指标来理解语言模型行为及其与人类认知之间的关系。

排序理由 该集群包含一篇详细介绍新研究发现和指标的学术论文。[lever_c_demoted from research: ic=1 ai=1.0]

在 arXiv cs.CL 阅读 →

AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →

报道来源 [1]

  1. arXiv cs.CL TIER_1 English(EN) · Elan Barenholtz ·

    语言模型隐藏状态的轨迹动力学预测了超越意外性的认知加工成本

    arXiv:2606.05346v1 Announce Type: new Abstract: Human language comprehension unfolds sequentially: each word is processed in the context of those that came before, and the interpretation builds incrementally over time. Surprisal, the negative log probability of a word given its c…