NVIDIA Jetson Orin NX 16GB
PulseAugur coverage of NVIDIA Jetson Orin NX 16GB — every cluster mentioning NVIDIA Jetson Orin NX 16GB across labs, papers, and developer communities, ranked by signal.
1 天有情绪数据
-
探索用于NVIDIA Jetson边缘部署的小型视觉语言模型（VLM）量化
本文研究了小型视觉语言模型（VLM）的量化，以实现其在边缘设备上的高效部署，特别是NVIDIA Jetson Orin NX和AGX。研究系统地评估了六种量化配置下的五种假设，结果表明模型架构（MoE vs. 密集型）对量化敏感性有显著影响，MoE模型更能处理INT4噪声。研究还发现，SigLIP编码器在Jetson Ampere硬件上由于特定的内核-硬件交互而引入延迟，并且虽然INT4量化减少了VRAM，但可能会减慢令牌生成速度。复…
-
Jetson Orin NX 为 Hermes Agent 提供 65K 上下文和快速推理能力
一位用户已成功配置 Jetson Orin NX 以运行 Hermes Agent，并取得了令人印象深刻的性能指标。该配置优先考虑静音和美观，同时在文本生成方面实现了超过 10 token/秒，在提示处理方面实现了 300 token/秒。该设置支持至少 65,000 token 的上下文窗口，具体测试显示 Gemma 4 26B 模型在 60,000 token 上下文下实现了 10.21 token/秒。
-
本地AI进展：Qwen3-8B加速，离线Gemma机器人，及多模态模型
一项新的加速技术被开发出来，据称能使Qwen3-8B语言模型实现7.8倍的速度提升，且输出与原模型相同。另外，一个名为Sparky的完全离线行李箱机器人，使用Gemma 4 E4B模型和llama.cpp在Jetson Orin NX上构建，展示了在边缘硬件上本地部署AI的能力。此外，Intern-S2-Preview，一个35B的科学多模态模型，已在Hugging Face上发布，专注于用于本地部署的新颖“任务扩展”方法。
-
Hello Robot 的 Stretch 4 机器人优先考虑实用的家庭辅助移动性
Hello Robot 推出了 Stretch 4，这是一款轮式家用机器人，旨在提供实用辅助，而非模仿人形。该机器人通过全向底座和先进传感器优先考虑移动性和操控性，使其易于安全操作。它利用 Intel NUC 15 和 Nvidia Jetson Orin NX 进行自主导航和视觉处理，目标是部署给有严重行动不便的个人。
-
AI模型为边缘牲畜监测进行蒸馏，减少VRAM需求
研究人员开发了一种轻量级蒸馏方法，用于SAM 3和DINOv3等大型基础模型，使其能够在边缘设备上部署用于牲畜监测。蒸馏后的管道显著减少了参数数量和VRAM使用量，能够适应NVIDIA Jetson Orin NX的配置。这一进展支持了精准畜牧业的设备端视觉分析，能够对动物健康和行为进行回顾性分析。
-
DenseScout 通过算法-系统协同设计优化边缘平台上的小目标选择
研究人员开发了 DenseScout，一种用于边缘设备高效小目标选择的新型算法-系统协同设计方法。这种轻量级选择器仅包含 101 万个参数，在严格的计算和延迟限制下，比传统的基于检测器的方法更能有效地优先选择候选图像块。该系统还采用了感知传输的运行时实现和 QoS 约束召回率指标，以确保在异构硬件上满足截止时间内的性能。