实体 Jetson Ampere

Jetson Ampere

PulseAugur coverage of Jetson Ampere — every cluster mentioning Jetson Ampere across labs, papers, and developer communities, ranked by signal.

总计 · 30天

1

90 天内 1

发布 · 30天

0

90 天内 0

论文 · 30天

1

90 天内 1

层级分布 · 90 天

主题

情绪 · 30 天

1 天有情绪数据

最近 · 第 1/1 页 · 共 1 条

TOOL · CL_135393 · Jul 10 · 04:00

探索用于NVIDIA Jetson边缘部署的小型视觉语言模型（VLM）量化

本文研究了小型视觉语言模型（VLM）的量化，以实现其在边缘设备上的高效部署，特别是NVIDIA Jetson Orin NX和AGX。研究系统地评估了六种量化配置下的五种假设，结果表明模型架构（MoE vs. 密集型）对量化敏感性有显著影响，MoE模型更能处理INT4噪声。研究还发现，SigLIP编码器在Jetson Ampere硬件上由于特定的内核-硬件交互而引入延迟，并且虽然INT4量化减少了VRAM，但可能会减慢令牌生成速度。复…