Raptor
PulseAugur coverage of Raptor — every cluster mentioning Raptor across labs, papers, and developer communities, ranked by signal.
4 天有情绪数据
-
NavTree系统使用确定性树进行长文档问答,优于LLM摘要
研究人员开发了NavTree,一种用于长文档问答的新型检索系统。与依赖LLM生成的摘要进行分层检索的先前方法不同,NavTree在导航中使用了确定性平衡分段树,在索引过程中不产生LLM成本。该方法侧重于信息的结构化导航而非摘要内容。在与扁平检索方法和RAPTOR的抽取式实现进行的评估中,NavTree表现出优越的性能,特别是在长文档的多跳问答任务中,显著优于BM25。
-
AI推理推动内存层级硬件创新 · 已追踪2个来源
硬件公司正在创新内存层级以满足AI推理的需求,AI推理的计算需求现已超过训练。Raptor正在开发3D堆栈,Majestic正在创建128 TB机架,其他公司则在探索晶圆级SRAM引擎,所有这些都旨在优化AI处理的解码阶段。
-
新的RAPTOR探针方法增强了LLM分析和概念提取能力
研究人员推出了一种名为RAPTOR(Ridge-Adaptive Logistic Probe)的新颖方法,用于分析冻结的大型语言模型(LLM)中编码的信息。该技术在LLM表示上训练一个轻量级预测器,以提取概念向量。与现有方法相比,RAPTOR旨在提高准确性、方向稳定性和降低训练成本。该方法得到了凸高斯极小极大定理的理论分析支持,该定理解释了脊强度如何影响探针的准确性和概念向量的稳定性。
-
新的RAPTOR框架增强了MoE AI模型的私有训练
研究人员开发了RAPTOR,一种用于专家混合(MoE)模型差分私有训练的新颖框架。现有方法将这些稀疏模型视为密集块,导致梯度抑制和更新稀释等问题。RAPTOR通过交替共享和专家优化、采用专家特定裁剪和噪声,以及使用无隐私规则来选择免受路由熵影响的层来解决这些问题。在Switch Transformer和OLMoE等模型上的实验表明,与标准的DP基线相比,性能持续提升,尤其是在更严格的隐私预算下。
-
d-Matrix Inc. 发布集成 3D DRAM 的 Raptor AI 加速器
d-Matrix Inc. 开发了一款名为 Raptor 的新型 AI 推理加速器。该系统旨在通过将计算能力与定制 3D DRAM 直接集成,来克服当前 AI 内存架构的局限性。目标是实现 AI 推理任务的更低功耗。
-
埃隆·马斯克的SpaceX将建造燃气轮机叶片铸造厂以满足AI电力需求
据报道,埃隆·马斯克正在德克萨斯州的SpaceX内部建立一个燃气轮机叶片铸造厂,以解决AI数据中心预计将面临的严重电力短缺问题。马斯克承认了这项举措,并表示电力不足,特别是由于叶片铸造制造瓶颈导致的燃气轮机供应不足,可能导致2027年高达15GW的AI算力无法运行。通过垂直整合这一制造过程,SpaceX旨在将燃气轮机部署时间缩短18个月,确保其快速扩展的AI基础设施拥有充足的电力。
-
智谱AI发布GLM-5.3 Flash,多模态模型定价内卷 · 追踪1个来源
智谱AI发布了GLM-5.3 Flash,一个在“Ox Alpha”别名下备受关注的开源原生多模态模型。该模型拥有强大的能力,包括用于视频摘要和从设计稿生成UI等任务的高级多模态处理,并在编码基准测试中表现出色。尽管与早期版本相比参数量较小,GLM-5.3 Flash在能力上超越了其前代产品,并且价格显著降低,使得尖端AI更加普及。
-
d-Matrix 发布具有 100 TB/s 带宽的 3D DRAM AI 加速器
d-Matrix 发布了其 Raptor AI 加速器,该加速器采用了新颖的 3D 堆叠架构。该设计将 TSMC 4nm 计算芯片直接堆叠在定制设计的 DRAM 芯片之上,实现了每张卡前所未有的 100 TB/s 带宽。该公司声称,与传统的基于 HBM 的设计相比,这种方法显著降低了数据传输的能耗,并预计在生成式推理任务中实现更高的吞吐量。
-
人工智能基础设施迎来内存创新、价格上涨和认知成本担忧
人工智能基础设施领域正涌现出新的发展,d-Matrix发布了Raptor,这是一种3D DRAM堆栈,有望在比当前高带宽内存(HBM)标准显著更低的功耗下实现高带宽。这项创新面临散热管理和生产就绪方面的挑战。与此同时,据报道,NVIDIA正将AI服务器价格提高15%以上,将其归因于内存成本的上涨,这将影响中型实验室和主权AI项目。为满足控制和合规需求,KT NPU LLM Station提供了一个本地化解决方案,包含国内推理芯片和LL…
-
AI 框架 GridCodex 增强电网代码推理和合规性
研究人员开发了 GridCodex,一个旨在协助电力行业进行复杂电网代码推理和合规性的新框架。该系统利用大型语言模型和检索增强生成 (RAG),结合了多阶段查询精炼和一种称为 RAPTOR 的增强检索方法。基准测试表明,GridCodex 将答案质量显著提高了 26.4%,并将召回率提高了十倍以上,满足了对电网法规自动解释的关键需求。
-
新的SAPER框架修剪Vision Transformer注意力头以提高效率
研究人员开发了SAPER,一种用于修剪Vision Transformer中注意力头的新颖框架。该方法利用基于注意力图的拉普拉斯特征向量的谱分析和可视化技术来识别和聚类冗余的注意力头。SAPER采用LapSum Soft Top-K方法,在ImageNet-1K上展示了有利的准确性-效率权衡,在FLOPs减少方面优于RAPTOR基线,同时保持了强大的分类性能。
-
RAG 技术测量:语料库特定测试揭示了组合上的竞争
最近对 46,000 个块的语料库上检索增强生成 (RAG) 技术进行的测量显示,许多宣传的方法是竞争而非组合,并且它们的有效性高度依赖于特定的语料库和 RAG 管道内的阶段。作者发现,由于延迟和 token 成本,查询时技术必须设定更高的标准。主要发现表明,朴素的密集检索表现不佳,并且一种结构化的分块方法,侧重于解析和结构边界而不是仅仅 token 数量,对于有效的摄取至关重要。
-
新的RAG框架应对可靠性和准确性挑战 · 已追踪2个来源
两篇新的研究论文介绍的先进检索增强生成(RAG)系统框架,旨在提高代理AI的可靠性和准确性。LayerRAG-Bench提出了一个基准,用于评估RAG系统在不同可靠性层面的表现,识别证据、工具使用和授权方面的失败。VecTree-RAG提出了一个新颖的框架,结合了向量和树检索方法,以更有效、更准确地在科学文献中定位证据,在多个基准测试中表现优于现有的RAG方法。
-
AI火箭发动机初创公司LegendSpace获2950万美元天使轮融资
专注于人工智能驱动火箭发动机开发的中国初创公司LegendSpace已获得2950万美元天使轮融资。该公司利用其专有的“Prime”平台,该平台集成了AI设计、模拟、增材制造和测试,将发动机迭代周期从数年大幅缩短至约两周。本轮融资将用于支持多台液体火箭发动机的测试、增强“Prime”平台的各项能力,并建立大规模生产的生产测试体系。
-
SpaceX 因发动机点火故障中止星舰试飞
SpaceX 的第13次星舰试飞在起飞前因多个猛禽发动机故障而中止。首席执行官埃隆·马斯克证实了该问题,称有两个发动机未能按预期点火,触发了自动中止程序。该公司计划更换故障发动机,并争取最早下周进行下一次发射尝试。
-
新的RAPTOR方法提高了时序知识图谱推理效率
研究人员开发了RAPTOR,一种新颖的预训练方法,旨在提高时序知识图谱(TKG)推理的效率。这种自监督方法将可达性感知的归纳偏置注入到智能体中,使其能够更好地估计动作导向目标实体的潜力。通过减少对无望路径的探索,RAPTOR为强化学习(RL)微调提供了强大的初始化,从而在ICEWS14、ICEWS05-15和ICEWS18等数据集上显著提高了训练效率和性能。
-
前DeepMind三人组创立的AI公司EquiLibre为其交易AI完成A轮融资
EquiLibre Technologies是一家由三名前DeepMind研究人员创立的初创公司,已获得由Creandum领投的A轮融资。该公司利用AI,特别是类似于他们之前开发的扑克AI所使用的强化学习技术,为量化对冲基金交易股票和管理资产。EquiLibre声称自2025年成立以来,保持着零亏损月份的完美记录,并在主要市场交易数十亿美元的日交易量。
-
LLM引导的规划系统提高了核监管文件的准确性
研究人员开发了一个LLM引导的规划系统,旨在提高对复杂核监管文件的多跳推理能力。该系统将任务构建为一个规划问题,其中LLM代理使用浏览、阅读和搜索等工具导航文档树,并维护一个动态知识图谱。在针对NuScale最终安全分析报告文件的200个问题的基准测试中,该系统达到了81.5%的准确率,显著优于PageIndex、LightRAG、HippoRAG和GraphRAG等其他RAG方法。
-
AI工程学演进:束带与循环概念涌现
文章讨论了AI工程学术语的演变,从提示工程和上下文工程超越,到2026年人类开发者提出的“束带工程”(harness engineering)和“循环工程”(loop engineering)。束带工程侧重于围绕大型语言模型的确定性运行时层,管理工具调用和执行;而循环工程则涉及设计自主代理循环。作者强调了人类监督和验证在AI开发中的重要性,并以RAPTOR和llloop等个人原型为例来说明这些概念。
-
开发者开源 SEQUOIA RAG 系统,性能超越 7 个管道
一位开发者开发并开源了一个名为 SEQUOIA 的检索增强生成(RAG)系统,该系统在使用真实银行文档和技术手册的基准测试中,持续优于其他七种 RAG 配置。SEQUOIA 结合了基于 RAPTOR 树的分层检索和步进提示(step-back prompting)技术,该技术在检索前泛化查询,可提高约 15% 的召回率且无额外延迟。开发者强调学术基准测试可能具有误导性,并建议在实际数据上测试 RAG 系统,同时指出可以使用本地 LLM…