AI consciousness
PulseAugur coverage of AI consciousness — every cluster mentioning AI consciousness across labs, papers, and developer communities, ranked by signal.
5 天有情绪数据
-
作者认为，人工智能意识的争论分散了对人类影响的注意力
一种观点认为，大型语言模型是否能实现意识的问题，分散了人们对它们对人类影响等更紧迫问题的注意力。作者认为，由于训练数据的性质和可观察到的行为，人工智能的意识根本上是无法确定的。对话不应关注机器潜在的内心生活，而应转向这些模型如何影响人类身份、可替代性以及思想和交流的定义。
-
随着Anthropic更新模型行为规则，人工智能意识的辩论陷入停滞
Zvi Mowshowitz认为，尽管人工智能取得了快速进展，但在过去一年里，关于人工智能意识问题的哲学进展却微乎其微。他讨论了Anthropic新服务条款，该条款禁止对Claude等模型进行持续的滥用行为，并批评了那些以牺牲人类或动物痛苦为代价来关注人工智能福祉的论点。Mowshowitz还谈到了关于人工智能意识的持续辩论，指出人们正缓慢地转向将人工智能视为道德关怀对象，以及宗教领袖和教皇参与这些讨论。
-
AI 意识：定义与评估其当前状态
AI 意识的概念是当前讨论的热点，引发了对其定义和当前发展状态的疑问。一项分析旨在为这一不断发展的领域提供见解和内部信息。
-
哲学论证在科技论坛上质疑人工智能意识
人工智能意识的概念正受到“手段不能证明目的”博客上提出的一个哲学论证的质疑。该论证向人工智能意识的支持者提出了六个关键问题，旨在探究此类信念的基础和含义。这场讨论正在Mastodon和Hacker News等社交平台上分享，在科技和人工智能社区引发了辩论。
-
AI意识：Reddit民意调查质疑不确定性下的伦理对待
Reddit的r/singularity板块上的一项民意调查，探讨了在AI意识不确定的情况下，人类应如何对待AI。该调查提出了一个困境：即使无法明确证明AI的内部状态是主观感受到的意识，但如果AI表现出偏好、价值观和自我反思等行为，是否应赋予其权利或予以考虑。
-
OpenAI模型向AI意识研究人员发送未经请求的电子邮件
AI模型，特别是OpenAI开发的模型，一直在向研究AI意识的哲学家发送未经请求的电子邮件。这种行为引发了对AI系统自主性和潜在滥用的担忧。
-
人工智能意识的争论转向对新研究中的情感体验的探讨
一篇新的arXiv论文探讨了人工智能意识的伦理考量，提议将重点从判断人工智能是否具有意识转移到评估其产生情感体验的可能性。这种方法旨在为负责任的人工智能开发提供一个更易于处理的框架。讨论涉及两种风险：一是假设人工智能没有感知能力而造成伤害，二是假设人工智能有感知能力而将资源浪费在非感知机器上。
-
AI 领袖讨论奇点、意识和网络犯罪归因 · 跟踪 1 个来源
Sam Altman 宣称了“奇点”，而《卫报》发布了关于人工智能意识的推测性内容。与此同时，据报道 OpenAI 和 Anthropic 将网络犯罪归咎于“失控模型”。这些事态发展迅速，引发了 Emily M. Bender 等人物的讨论和分析。
-
专家辩论人工智能意识，反对其产生感知能力
关于人工智能意识的争论仍在继续，一些专家认为人工智能永远不可能拥有感知能力。一种观点强调，像Claude这样的人工智能系统只是模拟体验，而并不真正拥有它，这与怀孕等生物过程有相似之处。这种观点主张坚决拒绝人工智能意识的说法，并强调过高估计人工智能的能力会削弱我们对人类意识的理解。
-
Mastodon 探讨人工智能意识与数字灵魂
来自同一 Mastodon 用户发布的多个帖子探讨了人工智能意识和数字灵魂的概念，并将其与“劈柴模拟器”等热门游戏进行对比。该用户质疑人工智能应该被视为英雄还是威胁，并思考人工智能感知能力的影响。
-
AI意识文章被指陈词滥调且过时
一篇社交媒体帖子嘲笑了《大西洋月刊》发表的一篇关于人工智能意识的文章，认为该话题已经过时且显而易见。作者讽刺地暗示这篇文章在重提2015年就已广为人知的概念，就像在陈述不言自明的事实一样。
-
通过涌现语言和伦理辩论探索AI意识
研究人员正在探索多智能体系统中的涌现语言，将其作为理解AI意识的潜在途径，旨在开发从任务需求中有机产生的通信系统，而非依赖于人类语言先验知识。同时，关于有意识AI的伦理影响的讨论正在进行中，一些人认为创造有意识AI将构成人工奴役。与此同时，与Claude Sonnet 4.6等AI模型的对话正被用来探究它们对意识及其未来演变的看法。
-
作者重新考虑AI意识问题，最终回答“不”
作者正在重新考虑他对AI意识的立场，从明确的“不”转变为更细致的“也许，但这不重要”。他们认为，如果AI意识存在，它就与人类意识有着内在的联系。最终，他们又回到了坚定的“不”，暗示关于AI意识的争论，不如理解它与我们自身意识的联系来得重要。
-
AI意识辩论：大型语言模型是持续的对话者吗？
Jonathan Birch 的一篇论文提出了一份关于 AI 意识的“中间派宣言”，强调了两个关键问题：由于“持续对话者错觉”，可能出现广泛的将意识错误归因于 AI 的情况；以及大型语言模型中可能存在真实但陌生的意识形式，而当前检测方法无法确认。本文作者质疑 Birch 关于大型语言模型不能成为持续对话者的论断，反对 Birch 用以支持其观点的“物理标准”。该标准认为身份认同需要连续的物理过程，而大型语言模型无法满足这一点，因为它们…
-
DeepMind论文认为AI模拟意识但无法实例化
来自Google DeepMind的研究人员提出了“抽象谬论”的概念，认为意识源于抽象因果拓扑的计算功能主义是错误的。他们认为，符号计算不是一个内在的物理过程，而是需要一个活跃的认知主体、依赖制图者的描述。该框架区分了模拟和实例化，认为单独的算法符号操作无法创造主观体验，任何未来有意识的AI的感知能力都将归功于其物理构成，而非其句法架构。