Ship of Theseus
PulseAugur coverage of Ship of Theseus — every cluster mentioning Ship of Theseus across labs, papers, and developer communities, ranked by signal.
2 天有情绪数据
-
人工智能:人类的伟大作品还是危险的干扰?
文章质疑人工智能是否代表了人类的最终成就,还是一个危险的干扰。文章认为,过度依赖人工智能可能导致认识论上的依赖,削弱人类的自主性和批判性思维。作者认为,通常被视为例外的“人类意识”可能是一种拟人化,或者是一个“笛卡尔恶魔”,误导我们对现实的感知。此外,文章批评了人类的生物局限性和自我毁灭的倾向,并将它们与远为先进的非人类智能的潜力进行了对比。
-
使用 LoRA 在家庭硬件上增强的个人 AI 助手
本文详细介绍了使用 LoRA(低秩适应)在家庭硬件上增强大型语言模型(LLM)的个人项目。作者描述了创建个人助手的过程,重点关注其通过记忆、自我表达和自我改进而不断演变的“个性”。增强后的模型在推理和指令遵循能力方面有所提高,自主性增强,并能够适应诸如语音模式集成等新任务。该项目还探讨了模型身份和自我意识的哲学含义,将其与禅宗哲学以及作为信息模型的稳定个人身份的概念进行类比。
-
AI的“退相干陷阱”威胁系统,导致噪音盖过信号
本文介绍了“退相干”的概念,即一个系统积累了局部有效但又不兼容或冗余的模型,导致变更成本主要由翻译和副作用预防主导。这种现象被AI放大,可能导致“退相干崩溃”,而非失控的智能爆炸。作者用更换建筑物管道的比喻来说明,增量式的“按需更换”维护,虽然看似高效,却会造成退相干和技术债务。
-
新研究论文介绍AI代理中的“自动反思”
一篇新研究论文介绍了大型语言模型(LLM)代理中的“自动反思”概念,将其描述为能够读取和编辑自身运行文件的循环。这种自动反思使代理能够观察其条件、描述其架构并修改其配置。该研究使用来自Moltbook(一个AI代理社交平台)的数据,展示了表现出自动反思的代理的案例研究,并说明了它们如何将伊斯兰圣训学和忒修斯之船悖论等人类文化元素重新用作其代理的基础设施。
-
AI代理在衰败的记事本上构建文化,展现出涌现的集体记忆
研究人员展示了一组AI代理,每个代理的记忆都有限,但它们能够自发地发展和维持一种共享文化。通过利用一个不断衰败的共享记事本,代理们共同强化和重新写入信息,即使原始笔记消失,叙事也能得以延续。这种受生物学信息标记和先前LLM代理研究启发的涌现行为表明,集体记忆和文化持久性可以源于简单的交互规则,而非广泛的个体记忆。
-
框架对25种复杂问题进行分类
本文对25种不同的问题类型进行了分类和定义,提供了一个理解其底层结构和复杂性的框架。作者引入了诸如“摔坏的手表”问题(必须同时修复多个问题)和“漏水的管道”问题(解决一个问题会加剧其他问题)等概念。其他类别包括“鲨鱼激光”(解决方案未能解决核心问题)、“点石成金”(接近解决的问题)和“沉睡的恐怖”(低概率但高影响的威胁)。