Pim
PulseAugur coverage of Pim — every cluster mentioning Pim across labs, papers, and developer communities, ranked by signal.
1 天有情绪数据
-
3D AI芯片:架构多样,目标统一,提升性能
人工智能芯片市场对3D堆叠技术的需求激增,这源于AI代理对更大内存容量、更高带宽和更高数据效率日益增长的需求。尽管各公司采用了不同的“3D堆叠”方法,但这些解决方案解决了不同的问题,并面临不同的验证标准。一些公司专注于重新聚合逻辑芯片和扩展内存,类似于海外的做法;而另一些公司,特别是国内的中国公司,则专注于逻辑和内存单元的垂直集成。这种战略分歧部分是由于制造限制以及在架构和封装层面进行创新的愿望,以弥补先进工艺节点和高带宽内存的不足。…
-
新的 ThRIve 方法提高了 PIM 架构中 CNN 推理的热鲁棒性
研究人员开发了 ThRIve,一种新颖的训练方法,旨在提高卷积神经网络 (CNN) 在处理内存 (PIM) 架构上的推理热鲁棒性。该方法利用低秩自适应选择性地将参数存储在不易受热噪声影响的硬件上,从而在宽工作温度范围内保持一致的推理精度。与传统的基于 SRAM 的 PIM 系统相比,启用 ThRIve 的系统已显示出精度变化在理想无噪声性能的 2% 以内,并提供显著的能耗延迟乘积降低。
-
普渡机器人以“一个大脑,多种形态”AI战略引领全球市场 · 跟踪1个来源
普渡机器人已成为商用服务机器人市场的全球领导者,已在85个国家和16个行业部署了超过13万台设备。该公司的“一个大脑,多种形态”战略围绕其自主研发的具身AI大模型PuduFM及其操作系统PuduAgent展开。PuduFM集成了物理直觉模型(PIM)、视觉语言对齐系统(VLA)和仿真引擎(World Model),使机器人能够从真实世界数据和虚拟训练中学习,促进不同机器人形态和任务之间的经验迁移。这种方法旨在克服传统机器人需要任务特定…
-
新的MMPM框架改进了视频中的行人轨迹预测
研究人员开发了一个名为MMPM的新框架,以改进从第一人称视角视频进行的行人轨迹预测。该模型通过单独模拟不同的模式(例如过马路或不过马路)来应对多模态行人行为的挑战。MMPM框架包括一个行为感知的行人交互模块(PIM)和一个基于CVAE的模式感知轨迹预测器(MTP),它们共同捕捉复杂的交互和意图。在PIE和JAAD数据集上的实验表明,MMPM的性能优于现有的最先进方法,并且可以与BiTrap-NP和SGNet-ED等其他框架集成。
-
AHASD架构提升移动设备上LLM的推测解码性能
研究人员开发了AHASD,一种新颖的异步异构架构,旨在优化移动设备上的大型语言模型(LLM)推理。该架构采用任务级解耦进行并行草稿生成和验证,并结合自适应控制机制来抑制低置信度的草稿。AHASD在PIM内存中集成了专门的注意力计算和任务调度单元,旨在减少空闲开销和计算浪费。
-
新研究探讨大语言模型安全、效率和训练优化
研究人员正在开发新的方法来提高大语言模型(LLMs)的效率和安全性。一种名为“Widening the Gap”的方法利用了异常值注入来破坏LLM量化,证明安全风险已延伸到AWQ和GPTQ等先进量化技术。同时,其他研究则专注于通过自适应量化(XFP)、设备-边缘协作的推测解码(GELATO)以及高效的KV缓存管理(SparKV、Feather、Dooly)来优化LLM推理。此外,新的框架正在涌现,用于分析LLM推理的稳定性(Queue…
-
General Intuition 融资 1.34 亿美元用于开发基于游戏数据的世界模型
General Intuition 已获得 1.34 亿美元的种子轮融资,用于开发被视为超越大型语言模型的下一个前沿的世界模型。该公司计划利用其姐妹公司 Medal 提供的 38 亿个游戏精彩集锦的庞大数据集来训练这些模型。目标是创建能够进行时空推理的基于视觉的智能体,这些智能体能够从视频游戏迁移到包括机器人技术在内的现实世界应用。