Hinton
PulseAugur coverage of Hinton — every cluster mentioning Hinton across labs, papers, and developer communities, ranked by signal.
3 天有情绪数据
-
专家混合模型:从1991年概念到DeepSeek-V3的效率
专家混合(Mixture of Experts, MoE)架构,最早由Jacobs等人于1991年提出,为大型语言模型的规模与成本困境提供了一个解决方案。与密集模型(在每次token计算时激活所有参数)不同,MoE层使用一个门控网络为每个token选择性地激活一小部分专门的“专家”网络。这使得像DeepSeek-V3这样拥有数千亿参数的模型,在每次计算时只需激活其中一小部分,从而显著降低成本。Shazeer等人于2017年引入的关键的…
-
Sigmoid信念网络被证明可以精确表示概率分布
一篇新发表在arXiv上的论文证明,Sigmoid信念网络可以精确表示二元集合上的任何严格正概率分布。这一发现解决了Sutskever和Hinton研究人员提出的一个长期存在的问题。该证明利用了Brouwer不动点定理,将先前的一种近似方法提升为精确表示。
-
AI先驱认为当前能力只是开始
AI领域的知名人士,包括Geoffrey Hinton、Sam Harris和Max Tegmark,都表示目前的AI能力只是一个开始。他们认为该技术的潜力远大于迄今为止所展示的,这意味着AI的现状是最不先进的。
-
Hinton 警告“科技巨头”驱动的 AI 危险
著名人工智能研究员 Geoffrey Hinton 对人工智能的未来表达了严重担忧,并预测了灾难性的后果。他认为,由“科技巨头”驱动的当前人工智能发展轨迹,并不符合人类的最佳利益,并可能导致灾难性的结果。
-
人工智能风险投资辩论围绕会计、收入和部署出现分歧
风险投资在人工智能方面存在分歧,不仅仅是乐观者和悲观者,而是分为四种不同的叙事。这些叙事包括对会计实务、收入质量、偿付能力和部署有效性的批评,Michael Burry、Bill Gurley 和 Ed Zitron 等人物强调了这些问题。另外,Arvind Narayanan 和 Sayash Kapoor 等人组成的团队认为,人工智能的变革潜力是真实的,但其采用速度慢于发明速度,并指出能力-可靠性差距。尽管对人工智能的即时影响和财…
-
谷歌传奇人物 Jeff Dean 在效力 27 年后离职,创办 AI 初创公司
谷歌传奇工程师、最早的员工之一 Jeff Dean 宣布在效力 27 年后离职。Dean 在构建谷歌的许多基础架构方面发挥了关键作用,包括 MapReduce、BigTable 和 Spanner 等系统,并在 TensorFlow 和 TPU 的开发中发挥了重要作用。据报道,他的离职导致谷歌股价大幅下跌。Dean 现在将开启一项新事业,联合创办一家名为 Discovery Loop 的初创公司,专注于自动化机器学习、科学和工程。
-
Gary Marcus 对埃隆·马斯克关于机器人手术的时间表提出质疑
Gary Marcus 公开质疑埃隆·马斯克关于机器人将很快成为最佳外科医生的预测,称这一说法“荒谬”且“有害”。Marcus 引用了马斯克在人工智能和自动驾驶汽车方面不准确的时间表记录,并强调了机器人专家 Rodney Brooks 的观点,后者称马斯克的机器人手术时间表是“完全疯狂的说法”。Brooks 强调,目前机器人手术仍需要人类监督,即使是更简单的手术,广泛应用于人类也需要数十年时间。
-
专家认为人工智能取代工作的担忧可能被夸大
人工智能对工作岗位的影响,尤其是在放射学等领域,可能不像最初担心的那样严重。著名人工智能人物 Geoffrey Hinton 已经澄清了他早先的担忧,认为人工智能更有可能增强而非取代人类专业人士。这种协作有望提高专业领域的效率和有效性。
-
为什么全球AI暂停不太可能发生
由于几个因素,全球暂停AI开发不太可能发生,包括与核武器相比,AI风险的抽象性质,AI技术的双重用途使其难以执行,以及缺乏像广岛那样明确的“警告射击”来展示AI的危险。与核武器不同,核武器存在收益递减点,而AI发展在智力上没有固有的上限,并且进展速度超过了政治和监管的变化。此外,与核试验不同,检测AI暂停的违规行为几乎是不可能的。
-
Sakana AI 的 DiffusionBlocks 通过独立训练网络块来减少训练内存
Sakana AI 推出了 DiffusionBlocks,一个用于更高效地训练神经网络的新颖框架。该方法将网络划分为多个块,允许每个块独立训练。通过减少同时处理的层数,DiffusionBlocks 在不牺牲各种架构性能的情况下,显著降低了训练期间的内存需求。该方法利用了残差网络和扩散模型之间的联系,将残差连接视为离散的去噪步骤。