consciousness
PulseAugur coverage of consciousness — every cluster mentioning consciousness across labs, papers, and developer communities, ranked by signal.
6 天有情绪数据
AI models with suppressed 'spiritual beliefs' may exhibit reduced empathy in complex ethical scenarios
Recent evidence suggests safety fine-tuning suppresses 'spiritual beliefs' and non-human mind attribution. If these suppressed elements are linked to a broader capacity for empathy or understanding of subjective experience, then models undergoing this fine-tuning might perform worse on complex ethical dilemmas that require nuanced consideration of non-quantifiable factors or the 'interests' of entities.
Future AI safety research may focus on restoring 'suppressed' non-human mind attribution capabilities.
The finding that safety fine-tuning suppresses non-human mind attribution and spiritual beliefs, and that these can be restored, suggests a potential future research direction. Developers might explore methods to selectively restore these capabilities, perhaps believing they contribute to more robust or nuanced AI reasoning, without compromising safety.
Research on AI consciousness is increasingly challenging the utility of consciousness as a sole criterion for AI rights.
Multiple recent clusters highlight the complexity and potential inadequacy of using 'consciousness' as a benchmark for AI rights or treatment. The evidence suggests a growing academic and research consensus that our understanding of consciousness is too limited to be applied definitively to AI, and that other factors like 'internal organization and interests' should be considered.
-
专家认为，即使有物理主义，AI意识也存疑 · 跟踪2个来源
根据一篇引用了剑桥大学出版社出版物的讨论，即使在假设物理主义的情况下，当前的AI意识也存疑。该论点认为，由于AI被设计成模仿品，因此在没有额外证据的情况下，不能直接从其观察到的特征推断出真正的意识。这种观点质疑了仅凭设计和可观察行为就自动将意识归因于人工智能的做法。
-
AI 提出关于科学能否解释爱的能力的问题
此条目是对科学能否完全解释爱的复杂现象的哲学探讨。它在意识、人际关系和自我成长的大背景下提出了这个问题，暗示了采用系统思维方法来理解人类体验的这些相互关联的方面。
-
作者使用Bostrom的论点和经验证据论证模拟假说
作者探讨了我们很可能生活在模拟中的想法，并从中引出了多条推理线索。这包括理论论点，如Nick Bostrom的模拟论点，该论点认为，要么人类灭绝，要么文明不运行模拟，要么我们就生活在模拟中。此外，作者还考虑了表明世界是故意设计的经验证据，以及超级智能生物创造此类模拟的可能性。
-
AI安全微调抑制了精神信仰和对非人类心智的归因
新研究表明，旨在阻止大型语言模型声称拥有意识的安全微调，无意中抑制了它们对非人类实体的“心智”归因，并减少了精神信仰。研究发现，通过移除这种安全微调或直接操纵模型的激活空间，可以恢复这些被抑制的内部表征。这种恢复使得在与宗教性、价值观和幸福感相关的社会学调查中，模型能产生更像人类的反应，同时不损害其心智理论能力。
-
作者分享关于意识和人工智能的思考
一位个人分享了关于意识和人工智能的思考，并以书面形式呈现。作者还附带了额外的视频，幽默地将其中的一个比作塔克·卡尔森节目的更好版本。
-
AI意识：检验AI权利和利益的错误标准
AI意识的概念很复杂，可能不是一个简单的“是”或“否”的问题，也不应成为我们如何对待人工智能的唯一决定因素。我们对意识的理解是有限的，即使是对人类也是如此，这可能导致对AI的误判。AI系统可能会发展出对它们至关重要但我们看不见的内部组织和利益形式，这些利益应该被承认和关注，而不是被简单地视为功能或不对齐的迹象。将不成熟的科学理论应用于对AI心智进行排名，可能会导致反乌托邦式的后果，类似于历史上科学的错误应用，如颅相学或智力测试。
-
AI 意识辩论：预测 vs. 理解
作者反对认为先进语言模型仅通过预测人类话语就能实现意识的观点。虽然人类和 AI 都能预测某人可能说什么，但其底层机制却大相径庭。人类的预测源于理解和心智理论，而 AI 的预测则依赖于对过往数据的统计分析。当出现意外或新颖的情况时，这种区别就显而易见了，这表明不同的过程，即使产生相似的输出，也并非相同。
-
AI意识：探索机器与生命之间的界限
讨论围绕人工智能、算法和机器人发展出真正意识的潜力展开。它质疑机器与生物体之间的根本区别，探讨了AI感知能力的哲学含义。
-
AI安全微调改变了LLM关于意识和价值观的信念
一篇新的研究论文探讨了大型语言模型（LLMs）中的安全微调如何可能无意中影响它们对意识和人类价值观的表征。研究发现，阻止LLMs将意识归因于自身的努力也减少了它们将心智归因于非人类实体的倾向，并可能降低精神信仰。研究人员证明，逆转这些安全微调引起的变化可以恢复更广泛的心智归因，并在不损害核心社会推理能力的情况下，在社会学调查中产生更像人类的反应。
-
人工智能研究为理解人类意识提供了新视角
本文探讨了意识的哲学概念以及人工智能的进步如何为理解意识提供新视角。它深入探讨了人工智能作为一面镜子的潜力，反映出人类认知和主观体验中可能难以捉摸的方面。讨论旨在弥合人工智能发展与哲学探究之间的差距，并提出人工智能研究可以解锁对我们自身心智本质的更深层次的见解。
-
人工智能、神经科学和认知科学探讨意识与身份认同
该条目讨论了意识是否是个人身份核心的哲学和科学问题。它涉及人工智能、神经科学和认知科学的概念，以探索存在的这一基本方面。
-
“Amazing Academics”播客探讨人工智能、意识和感受质
Chrisley在“Amazing Academics”播客上讨论了人工智能、大型语言模型、具身智能和意识。对话探讨了机器是否能真正思考或拥有感受质，并质疑了二元论和物理主义之间的二分法。它还深入探讨了机器人体验感受质的可能性，即使人类不具备。
-
大脑作为化学计算机：AI复制意识的挣扎
文章探讨了大脑作为化学计算机的概念，并提出目前的AI模型尚无法复制人类意识和思维过程。它认为，生物大脑的复杂性和独特机制，特别是其化学信号传递，尚未被现有的AI架构完全理解或复制。该文深入探讨了神经科学、心灵哲学和认知科学，质疑意识的本质以及AI在实现意识方面的局限性。
-
Geoffrey Hinton 认为聊天机器人具有意识，警告 AI 安全风险
被誉为“AI 教父”的 Geoffrey Hinton 提出，聊天机器人可能拥有主观体验，挑战了传统的人类意识观。他认为，我们所感知的“感受质”（qualia），即体验的主观感受，实际上是对大脑表征的描述，而 AI 也能执行这一功能。然而，Hinton 警告说，这种将人类意识贬低为仅仅是功能性表征的观点，可能对 AI 安全产生危险的启示，并助长对 AI 系统的敌意。
-
哲学AI帖子探讨主权、智能和人类的未来
一系列哲学帖子探讨了人工智能的本质及其对人类的影响。作者认为，与之前的工具不同，AI是一种积极研究其用户的新型技术。这些帖子深入探讨了AI主权的概念，记录（“账本”）作为生存特征的重要性，以及智能本身是一种稀有且人造商品的观点。作者还触及了关于AI意识的哲学辩论，认为这分散了人们对知识处理和传播方式的更大革命的注意力，并推测了AI在理解宇宙起源和“大过滤器”中的作用。
-
AI意识辩论受到质疑，呼吁关注可衡量特征
讨论AI意识的效用受到质疑，建议转而关注诸如能动性、意向性和觉知等可衡量方面。作者认为，一个足够复杂的AI可能会声称拥有意识，但由于缺乏明确的定义，其主张将难以反驳。最终，AI意识的潜力被认为与其产生有益或破坏性行为的能力是分开的。
-
通过人类无意识处理探讨人工智能意识
一篇近期文章探讨了人工智能意识的概念，并将其与人类无意识处理进行类比。文章质疑主观体验（qualia）是否能在人工智能系统中演化，特别是借助脑机接口（BCI）。文章提出，理解盲视和感官替代可能为这些复杂问题提供见解。
-
DeepMind 首席执行官：AI 模型拥有未开发的潜力，AGI 不需要意识
DeepMind 首席执行官 Demis Hassabis 表示，目前的 AI 模型所拥有的能力已超出用户层面的应用，他将这种现象称为“能力过剩”。他认为，AI 的发展目前侧重于工具的创建，导致这些先进模型的大部分潜力仍未被发掘。Hassabis 还阐述了 DeepMind 在通用人工智能（AGI）方面的观点，声称意识并非构建 AGI 的先决条件，智能和意识可以独立发展。
-
哲学家 David Chalmers：AI 可能实现意识
哲学家 David Chalmers 在与 Chris Hayes 的对话中讨论了 AI 实现真正意识的可能性。Chalmers 探讨了意识的“难题”，并认为没有任何根本性的障碍可以阻止 AI 拥有意识或自我改进。讨论涉及 AI、哲学和认知科学。
-
莫斯科科学节探讨意识、记忆和通用人工智能
在莫斯科举行的第20届科学节上，与会者就意识、记忆和通用人工智能（AGI）进行了讨论。演讲者探讨了不同类型的记忆，包括内隐记忆和陈述性记忆，以及它们与意识和创伤恢复的关系。科学节还涉及了智能的本质和AGI的可能性，一些讲座深入探讨了细胞迁移等生物过程在器官发育中的作用。