实体 Tianyi Zhao

Tianyi Zhao

PulseAugur coverage of Tianyi Zhao — every cluster mentioning Tianyi Zhao across labs, papers, and developer communities, ranked by signal.

总计 · 30天

1

90 天内 1

发布 · 30天

0

90 天内 0

论文 · 30天

1

90 天内 1

层级分布 · 90 天

主题

情绪 · 30 天

1 天有情绪数据

最近 · 第 1/1 页 · 共 1 条

TOOL · CL_154403 · Jul 21 · 04:00

新研究揭示 LLM 的过度自信源于特定的内部回路

一篇题为“为过度自信而生”（Wired for Overconfidence）的新研究论文探讨了大语言模型（LLM）自信地提供错误信息的现象。该研究确定了 LLM 内负责产生这种膨胀的言语自信度的特定回路，主要由中后期层的 MLP 块和注意力头组成。研究人员证明，通过在推理过程中干预这些回路，可以显著提高模型的校准度并降低过度自信。