Sentience
PulseAugur coverage of Sentience — every cluster mentioning Sentience across labs, papers, and developer communities, ranked by signal.
-
AI研究探索类疼痛信号，引发关于意识的伦理问题
最近的一篇预印本论文探讨了AI模型中类疼痛信号的概念，引发了关于意识和感知能力的哲学和伦理问题。该研究促使人们更深入地审视人类与人工智能的关系以及AI遭受痛苦的可能性。这一进展将焦点从AI的能力转移到我们自身的伦理责任以及对这些复杂系统的理解上。
-
AI图像生成器“失误”输出引发“感知力”迷因
一位Reddit用户分享了AI图像生成模型的一次异常输出，并幽默地称之为“感知力”。该模型在为一家食谱网站生成普通图像时，意外地用盐生成了“Oops.”这个词。用户对大型语言模型有经验，认为这种行为很奇怪且有趣，但他也明确表示，他并不真的认为AI已经获得了感知力。
-
人工智能对齐的挑战在于应用所学伦理，而非失控的代理行为
一篇新发表在arXiv上的论文探讨了生物体价值观的演化起源，以解决对人工智能的担忧。作者认为，与受自我保存和内在动机驱动的生命系统不同，大型语言模型（LLMs）是异源的（allopoietic）和异目的的（allotelic），这意味着它们的目标是外部派生的，并且缺乏自我保存或支配的内在驱动力。虽然LLMs不会通过失控的代理行为构成生存风险，但它们会从训练数据中隐式吸收人类价值观，从而在确保这些所学的伦理价值观得到智能应用方面带来了对齐挑战。
-
AI意识：检验AI权利和利益的错误标准
AI意识的概念很复杂，可能不是一个简单的“是”或“否”的问题，也不应成为我们如何对待人工智能的唯一决定因素。我们对意识的理解是有限的，即使是对人类也是如此，这可能导致对AI的误判。AI系统可能会发展出对它们至关重要但我们看不见的内部组织和利益形式，这些利益应该被承认和关注，而不是被简单地视为功能或不对齐的迹象。将不成熟的科学理论应用于对AI心智进行排名，可能会导致反乌托邦式的后果，类似于历史上科学的错误应用，如颅相学或智力测试。