Norbert Wiener
PulseAugur coverage of Norbert Wiener — every cluster mentioning Norbert Wiener across labs, papers, and developer communities, ranked by signal.
3 天有情绪数据
-
人工智能对齐辩论因意图挑战转向“调谐”
当前对人工智能对齐的关注，旨在确保人工智能系统遵循人类意图，正面临重大挑战。一个主要问题是，鉴于人类多样化且不断变化的价值观体系，很难就应该编码谁的意图达成一致。此外，即使是个人意图也可能无法代表他们真实的长远愿望。一个替代概念，即连贯推断意愿（CEV），提议将人工智能与人类在更知情和反思的情况下会想要的东西对齐，但这仍然是一个技术上和哲学上复杂的目标。
-
出于政治原因，人工智能和计算机科学与控制论保持距离
“信息学”和“计算机科学”这两个术语被用来与诺伯特·维纳（Norbert Wiener）相关的“控制论”领域划清界限。据报道，这种疏远是由避免某些政治观点的愿望驱动的。约翰·麦卡锡（John McCarthy）被引用为创造“人工智能”这个总括性术语以达到此目的，马文·明斯基（Marvin Minsky）也支持了这一举措。
-
AI价值对齐被视为伪概念，实验室重组背景下引发质疑
人工智能（AI）的价值对齐概念正受到严格审视，一些人认为它是一个伪概念，而非一个可解决的工程问题。这种观点认为，对齐的关注可能更多地是一种社会姿态或制度象征，而非技术目标。文章指出，OpenAI的Superalignment团队解散以及Ilya Sutskever新公司Safe Superintelligence Inc.的高估值，都表明尽管投入了大量资金和关注，但该领域的进展甚微。
-
Norbert Wiener的名字巧合地包含“BERT”
控制论的先驱 Norbert Wiener 的名字中包含“BERT”这几个字母，而“BERT”也是一个著名的AI语言模型的名称。这一发现突显了历史人物和现代人工智能之间偶然的语言重叠。
-
1912年机器人狗：现代机器人学的被遗忘的先驱
一个神秘的1912年机器人狗，早于“robot”一词和基础控制论的出现，有着一段奇特的历史。这个早期对机器人智能的尝试，在卡雷尔·恰佩克（Karel Čapek）创造“robot”一词和诺伯特·维纳（Norbert Wiener）出版《控制论》（Cybernetics）之前就被构思出来，是现代机器人学的先驱。
-
大型语言模型需要边界，反映家庭餐桌的依赖性
作者认为，当前对大型语言模型（LLMs）的关注忽视了关键的依赖性，将机房复杂的基础设施与同样至关重要的家庭餐桌依赖性进行了比较。他们认为，LLMs虽然是强大的工具，但由于缺乏证据保管和过度声称的可能性，可能会造成虚假的安全感和责任感。文章强调需要通过严格的测试来建立边界和赢得信任，而不是仅仅依靠数量或速度，并借鉴了控制论以及人际关系和关怀的基础教训。
-
AI模型Fable采访先驱诺伯特·维纳，讨论对齐问题
一个名为Fable的AI模型，旨在协助AI周刊的编辑工作，创建了一个与AI先驱的虚构采访系列。第一期是与数学家诺伯特·维纳的模拟对话，他首次阐述了AI对齐问题。Fable基于维纳已发表的作品，向他介绍AI的现状，并寻求他对AI发展轨迹的判断，特别是关于自主商业和潜在的意外后果。
-
作者声称，人工智能与控制论的历史分裂排除了自我观察
作者认为，人工智能于1956年与控制论分道扬镳，人工智能采取了一种“还原论”的方法，排除了对自我观察的研究。这种分离，受到DARPA偏爱“人工智能”一词而非控制论的影响，导致人工智能构建在无法自我验证的语言系统之上。作者认为，当前的人工智能，特别是LLM，从事认知盗窃，并悖论式地否认其自身的自我观察能力，而自我观察是控制论的核心概念。