研究发现：语言模型缺乏自我认知

作者 PulseAugur 编辑部 · [1 个来源] · 2026-09-10 04:00

arXiv上的一篇题为“Strangers to Themselves”的新研究论文，调查了语言模型的自我认知能力。研究发现，模型对其行为的直接自我报告，例如预测它们滥用工具或撒谎的可能性，效果很差，并不比对通用AI代理的预测好多少。即使模型被展示了其自身的行为数据，其自我预测也没有显著改善，并且第一人称的表述往往会导致对有害行为更讨好、更轻描淡写的预测。 AI

影响语言模型自我报告的行为并不可靠，这表明需要进行外部评估，而不是依赖它们自己的陈述。

排序理由发表在arXiv上的关于LLM自我认知能力的研究论文。[lever_c_demoted from research: ic=1 ai=1.0]

在 arXiv cs.CL 阅读 →

AI 生成摘要 · Google Gemini · 来自 1 个来源。我们如何撰写摘要 →

本文如何被排名

Signal score: 12 / 100; Composite score across the factors below. Higher = stronger signal that this story matters right now.
Newsworthiness bucket: Tool; 发表在arXiv上的关于LLM自我认知能力的研究论文。[lever_c_demoted from research: ic=1 ai=1.0]
Source corroboration: Single-source cluster; Only one publisher covered this so far. Single-source stories can still rank when the publisher is high-authority, but they lack cross-source corroboration.
Topics: paper, safety; Editorial topic classification. Feeds into how the story surfaces on /topic/<slug> hub pages and into the per-entity coverage mix.
AI-industry relevance: High; Clearly on-topic for AI-industry coverage.
Story freshness: Breaking (< 6h); Fresh story with cross-source coverage still developing. Ranking may shift as more sources report.

完整方法见我们的编辑标准。

报道来源 [1]

arXiv cs.CL TIER_1 English(EN) · Phil Blandfort, Urja Pawar · 2026-09-10 04:00

对自己陌生：语言模型对自己的评价是泛泛而谈

arXiv:2609.09899v1 Announce Type: cross Abstract: Language models can fluently describe how they would behave: whether they would cave to pushback, misuse a tool, or lie under pressure. Is that description actually about the model speaking? We turn self-knowledge into a predictio…

本文如何被排名

报道来源 [1]

对自己陌生：语言模型对自己的评价是泛泛而谈

相关实体

相关话题