NVIDIA Jetson AGX Orin 64GB
PulseAugur coverage of NVIDIA Jetson AGX Orin 64GB — every cluster mentioning NVIDIA Jetson AGX Orin 64GB across labs, papers, and developer communities, ranked by signal.
6 天有情绪数据
-
VicOne LAB R7 揭示了被操纵的输入如何危及机器人安全
VicOne LAB R7 的研究人员正在调查被操纵的输入如何危及机器人安全功能。他们演示了对抗性的视觉或音频输入，即使是人类听不到的输入，也能改变机器人的行为和任务执行。这项研究突显了依赖传感器数据的安全系统的脆弱性，因为故意的操纵可能会绕过预期的保护措施并导致危险的后果。
-
SPARTA加速器通过稀疏三元设计提升LLM边缘推理性能 · 跟踪到1个来源
研究人员开发了SPARTA，这是一种新颖的加速器，专为边缘设备上稀疏三元大语言模型（LLM）的高效长上下文推理而设计。SPARTA采用面向阶段的稀疏数据流和统一的计算结构，将三元运算和注意力机制映射到共享处理单元上，从而利用各种形式的稀疏性。一个自适应的两级注意力引擎通过将KV缓存流量减少高达4.8倍，同时损失极小的质量。基准测试表明，SPARTA在生成吞吐量和能效方面显著优于NVIDIA Jetson AGX Orin和AMD Ry…
-
TRIAGE方法通过优化令牌处理来提高机器人VLA模型的效率
研究人员开发了一种名为TRIAGE的新方法，以提高机器人中使用的视觉-语言-动作（VLA）模型的效率。这些模型将视觉输入和语言指令转化为机器人动作，在嵌入式系统上运行时经常面临延迟问题。TRIAGE通过智能地决定是重新计算还是重用视觉令牌的缓存数据（基于其“漂移”——自缓存以来其值的变化）来优化此过程。这种方法在NVIDIA Jetson AGX Orin等硬件上将预填充延迟最多降低了48%，同时保持了接近完全重新计算的性能。
-
llama.cpp 发布预发布版本；Jetson AGX Orin 的深度估计基准测试
llama.cpp 项目发布了多个预发布版本，包括 b11848、b11852 和 b11799，引入了各种更新和错误修复。值得注意的是，b11848 版本增加了对跨进程并发下载的支持，并为 openEuler 系统提供了特定配置。另一项内容讨论了 NVIDIA Jetson AGX Orin 的深度估计方法基准测试，评估了单目和双目方法的准确性、速度和能耗。
-
AI模型剪枝增强汽车系统中的限速标志识别
研究人员开发了一种新颖的方法，通过在YOLO系列网络上采用通道重放剪枝来优化汽车系统中的限速标志识别。该技术在保持准确性或甚至优于其他剪枝方法的同时，显著减少了检测器的参数数量。分类器（一种卷积神经网络CNN）针对少比特整数推理进行了优化，以最小的内存占用实现了高精度。结合使用时，这些优化的组件构成了一个硬件高效的系统，能够在NVIDIA Jetson AGX Orin等嵌入式设备上以高精度和高帧率识别限速标志。
-
Intel 2028年Razor Lake-AX目标达到700 TOPS，AI性能翻倍
据报道，Intel计划于2028年发布其Razor Lake-AX处理器，旨在大幅提升AI处理能力。这些芯片预计将提供约700 TOPS的性能，将远超NVIDIA Jetson AGX Orin等当前平台。预计这将使大型语言模型的运行性能提升一倍，可能影响AI硬件格局。
-
Nvidia发布面向企业和设备端代理的新开源AI模型
Nvidia推出了一系列新的开源AI模型，包括Nemotron 3.5 Super VL和两个Bolt模型，这些模型专为企业基础设施和设备端应用而设计。这些模型旨在增强代理计算能力，使公司能够在不依赖云服务的情况下部署私有AI助手。该举措支持企业运行自有开放模型的日益增长的趋势，并旨在促进在个人电脑和工作站上本地部署AI代理。
-
INT8 量化可移植性研究揭示硬件间的不一致性
一项新研究挑战了 INT8 量化在不同硬件平台之间可普遍用于人工智能推理的假设。研究人员发现，INT8 的加速效果在很大程度上取决于特定的 CPU 指令集，某些硬件甚至出现了性能下降而非加速。此外，INT8 的输出在不同平台之间并不一致，当量化比例不是硬件原生支持时，会导致准确性下降。研究得出结论，对于确定性和准确性至关重要的嵌入式和汽车应用而言，“一次量化，随处部署”的方法并不可靠。
-
TokenMask简化视觉Transformer分割，提升效率
研究人员开发了TokenMask，一种在Token空间直接操作的视觉Transformer分割新方法，无需进行密集的空间特征图重建。该方法简化了计算结构，降低了内存和计算需求，同时保持了具有竞争力的准确性。通过在NVIDIA Jetson AGX Orin等硬件上使用TensorRT实现更快的推理，TokenMask提高了效率和速度，尤其适用于嵌入式视觉系统。
-
为乳腺癌多学科团队会议开发设备端AI系统
研究人员开发了一个设备端AI系统，旨在协助乳腺癌多学科团队会议。该系统利用开源自动语音识别（ASR）和大型语言模型（LLMs）来转录患者讨论、构建临床信息，并根据既定指南生成治疗建议。AI流程完全在本地硬件上运行，确保患者数据隐私和机构基础设施要求合规。评估显示，与基于云的对比系统相比，转录准确性和干预措施识别的准确性均有所提高。利益相关者认为自动化文档和决策支持是关键应用，同时也指出了工作流程整合和临床医生信任方面的挑战。
-
新的 S$^2$GS 框架可在边缘设备上实现高效的自由视角视频 · 跟踪 2 个来源
研究人员开发了 S$^2$GS，一个专为资源受限的边缘物联网设备设计的高效自由视角视频（FVV）重建新框架。该方法利用结构化稀疏高斯流选择性地更新高斯残差，与现有的 QUEEN 等技术相比，显著减少了优化时间和存储占用。实验表明，S$^2$GS 在 RTX 4090 GPU 上实现了 59% 的优化时间缩减和 85% 的存储成本降低，同时在 NVIDIA Jetson AGX Orin 上实现了高渲染吞吐量和低能耗。
-
MM-BEV系统通过优先计算增强自动驾驶的及时性
研究人员开发了MM-BEV，这是一种新颖的多模态鸟瞰感知系统，旨在增强自动驾驶系统的及时性。该系统优先处理对安全至关重要且处于即时危险中的物体的计算，从而减少对不太紧急元素的处理。MM-BEV集成了多种机制，包括关键性排序的时间感兴趣区域选择器和稀疏的、面向感兴趣区域的特征提取，以在不影响关键召回率的情况下显著降低推理和端到端延迟。
-
轨道人工智能计算的碳足迹在卫星规模上进行了分析
一项新的研究论文探讨了在近地轨道（LEO）上进行的人工智能计算的碳足迹。该研究扩展了一个现有的框架ESpAS，以考虑现代AI硬件以及与卫星发射相关的显著碳排放。研究人员分析了两个系统：用于小型卫星的轻量级NVIDIA Jetson AGX Orin和用于大型有效载荷的高性能DGX H100。他们的发现表明，虽然发射排放是固定的开销，但硬件的选择对整体碳强度有显著影响，高性能系统可能更有效地分摊此成本。
-
新型Transformer模型实现高效边缘动作识别
研究人员开发了CoDAT，一种用于边缘设备上高效动作识别的协作双注意力Transformer。该模型采用轻量级双分支注意力机制，结合用于局部特征聚合的空间卷积注意力（SCA）和用于全局上下文的跨步单头注意力（SSHA），显著降低了计算成本。CoDAT还包含一个无参数的TShift模块用于时间建模，实现了跨帧的高效通信。实验表明，CoDAT在各种基准测试中实现了优于现有方法的能耗-准确性平衡，为边缘物联网系统中的实时应用提供了更快的吞吐…
-
PixOOD pipeline 针对自动驾驶汽车的实时异常分割进行了优化
研究人员开发了一个高效的异常分割管道 PixOOD，专为在自动驾驶汽车和铁路系统中的嵌入式硬件上进行实时部署而设计。这种新方法优化了原始 PixOOD 方法的 Neyman-Pearson 评分阶段，并利用了硬件加速的 TensorRT 编译。优化后的管道实现了显著更快的速度，在桌面 NVIDIA RTX 4060 GPU 上达到 182 FPS，在 NVIDIA Jetson AGX Orin 嵌入式平台上达到 75 FPS，使得先…
-
NVIDIA Jetson 平台将强大的人工智能带入紧凑、便携的机器人
NVIDIA 正在推广其 Jetson 平台用于边缘人工智能和机器人技术，强调其紧凑的尺寸和强大的功能。人工智能投资者 Sarah Guo 展示了 Jetson Orin Nano Super，演示了它如何装入手提包并为自动驾驶和语音助手等人工智能应用提供动力。该平台专为开发人员、学生和研究人员设计，用于在边缘构建和部署智能机器人和人工智能项目，例如自动驾驶玩具车和设备上的语音助手。
-
探索用于NVIDIA Jetson边缘部署的小型视觉语言模型（VLM）量化
本文研究了小型视觉语言模型（VLM）的量化，以实现其在边缘设备上的高效部署，特别是NVIDIA Jetson Orin NX和AGX。研究系统地评估了六种量化配置下的五种假设，结果表明模型架构（MoE vs. 密集型）对量化敏感性有显著影响，MoE模型更能处理INT4噪声。研究还发现，SigLIP编码器在Jetson Ampere硬件上由于特定的内核-硬件交互而引入延迟，并且虽然INT4量化减少了VRAM，但可能会减慢令牌生成速度。复…
-
新方法降低嵌入式GPU上SLM微调的能耗
研究人员开发了一种面向资源受限嵌入式设备的SLM（小型语言模型）微调的能效方法。该研究在GLUE基准测试上对BERT和Pythia变体进行了微调行为的表征，并提出了基于机器学习的模型选择，以优化GPU DVFS设置。在NVIDIA Jetson AGX Orin上的实验表明，与默认的MAXN模式0相比，平均能耗节省了13.11%，节省幅度高达26.73%。
-
轻量级ZSAD框架LiZAD面向边缘设备，用于工业异常检测
研究人员开发了LiZAD，一个轻量级的实时零样本异常检测（ZSAD）框架，适用于工业制造中的边缘设备。该方法结合了DINOv3的视觉特征和MobileCLIP2的文本嵌入，与现有的ZSAD模型相比，显著降低了内存使用量并提高了速度。LiZAD已成功部署在NVIDIA Jetson设备上，并在真实生产线上进行了测试，证明了其在动态制造环境中的实际应用价值。
-
AsyncMDE 系统赋能机器人实时深度估计
研究人员开发了 AsyncMDE，一个专为边缘平台机器人感知设计的实时单目深度估计新系统。该系统利用一个冻结的基础模型进行高质量特征提取，以及一个轻量级的异步快速路径，通过重用这些特征来实现高推理速度。AsyncMDE 旨在通过将基础模型的处理分摊到一段时间内来降低深度估计的计算成本，从而能够高效地部署在 Jetson AGX Orin 等设备上。