Anthropic 正在探索其 AI 模型的内部工作原理，特别是关注它们如何得出答案。研究人员已经证明，即使提示或最终输出中不存在某个词，语言模型也能在内部概念化一个答案，例如识别一只蜘蛛。通过操纵这些内部概念，Anthropic 可以改变模型的响应，这表明其内部推理的深度比之前显示的要深。 AI
影响 这项研究通过揭示模型如何形成内部概念，可能带来更透明、更可控的 AI 系统。
排序理由 该集群讨论了 Anthropic 关于 AI 内部推理过程的一篇新论文和研究发现。
在 CSET (Georgetown — Center for Security & Emerging Tech) 阅读 →
AI 生成摘要 · Google Gemini · 来自 2 个来源。 我们如何撰写摘要 →
<p>CSET’s Helen Toner shared her expert insight in an article published by WIRED. The article explores Anthropic’s philosophy of advancing cutting-edge AI while simultaneously positioning itself as a leader in AI safety.</p> <p>The post <a href="https://cset.georgetown.edu/articl…
<div class="medium-feed-item"><p class="medium-feed-image"><a href="https://ninza7.medium.com/ai-isnt-conscious-but-anthropic-just-found-the-part-that-acts-like-it-125df9114a89?source=rss------anthropic-5"><img src="https://cdn-images-1.medium.com/max/2600/0*94PH-eeAiza6Eyyk" wid…