实体 QK-score

QK-score

PulseAugur coverage of QK-score — every cluster mentioning QK-score across labs, papers, and developer communities, ranked by signal.

总计 · 30天

1

90 天内 1

发布 · 30天

0

90 天内 0

论文 · 30天

1

90 天内 1

层级分布 · 90 天

主题

情绪 · 30 天

1 天有情绪数据

最近 · 第 1/1 页 · 共 1 条

TOOL · CL_247623 · Sep 11 · 04:00

新的 QK-score 方法量化 LLM 的逻辑一致性

研究人员开发了一种新方法，通过分析 Transformer 注意力头中的查询-键对齐来评估大型语言模型 (LLM) 的逻辑一致性。这种被称为“QK-score”的技术，提供了一种轻量级且可扩展的方法来评估模型生成的中间推理步骤的一致性，特别是那些使用思维链提示 (Chain-of-Thought prompting) 的模型。在各种逻辑推理基准上的实证验证表明，QK-score 在区分 1.5B 到 70B 参数的模型中有效和无效推理…