资讯
资讯丨英伟达发布 JetPack 6.2,助力 Jetson 平台性能提升
2025年1月15日,英伟达正式推出JetPack 6.2,这为其现有的Jetson Orin Nano和Orin NX平台带来了令人瞩目的Super模式,这一举措在人工智能领域引发了广泛关注,为边缘计算和人工智能应用注入了新的活力。
主要更新:
新的功率模式
JetPack 6.2 解锁了Super 模式,通过提高 GPU、DLA 内存和 CPU频率来实现性能增强,Jetson Orin Nano 现在可以使用25W 模式以及一个新的不受限制的 MAXN SUPER 模式。
同样地,Jetson Orin NX 模块现在也可以使用新的更高的40W 参考功率模式以及一个不受限制的 MAXN SUPER 模式。MAXN SUPER 模式可使各模组达到最大内核和频率。
NVIDIA JetPack 6.2 (图源NVIDIA)
更新的工具与性能提升
JetPack 6.2更新了 Power Estimator Tool 以创建自定义功率配置文件。在 Super 模式下,对 Llama3.1 8B、VILA1.5 8B、CLIP 等流行的大语言模型、视觉语言模型和视觉转换器进行基准测试,Jetson Orin Nano 和 NX 模块推理性能最高提升 2 倍。
例如,在 Jetson Orin NX 16GB 上运行的一些模型,如 InternVL2.5 4B 在原始模式下的性能为每秒 3 tokens,而在Super 模式下则达到了每秒 4.1 tokens,性能提升了 1.37 倍。对于 Jetson Orin Nano 8GB,某些模型的性能提升更加明显,比如 SmolVLM 2B 模型从每秒 8.1 tokens 提升到了每秒 12.9 tokens,性能提升了 1.59 倍。
NVIDIA JetPack 6.2 (图源NVIDIA)
Jetson Orin Nano的算力由之前的 40 / 20 TOPS 提升到了 67 / 34 TOPS,能以 7W~25W的功耗运行,在保证性能的同时,控制了能耗。Jetson Orin NX的算力也由之前的 100 / 70 TOPS提升到了 157 / 117 TOPS,这些提升使得它们在处理复杂的人工智能任务时更加高效和准确,从容应对各种边缘设备应用场景,如智慧城市、智慧农业和AMR机器人开发等。
生态支持
JetPack 6.2的推出以及对Jetson Orin平台Super模式的支持,进一步降低了开发者的门槛。英伟达提供全套软件支持,包括用于机器人开发的 Isaac、视觉 AI 开发利器Metropolis、传感器数据处理专家 Holoscan 以及模型微调神器 TAO Toolkit 等,从入门到精通一站式搞定。
开发者可以更加方便地利用这些强大的硬件和软件工具,开发出更具创新性和实用性的人工智能应用,如创建基于检索增强生成的 LLM 聊天机器人、构建视觉 AI 智能体、还是部署基于 AI 的机器人,都将是理想的解决方案。
在实际应用中,搭载了Jetson Orin Nano和Orin NX平台的设备能够在保持低功耗的基础上,满足更多场景与性能需求。
例如,在智能安防领域,监控摄像头可以更快速地识别出异常行为和物体,提高安防系统的准确性和及时性;在智能交通中,交通信号控制设备可以接入更多的摄像采集设备,并更精准地捕捉各种交通事件;在工业自动化领域,机器人可以在保持原有功耗、续航的基础上,更灵活地应对复杂的生产任务,提高生产效率和质量。
Jetson Orin Nano Super Developer Kit (图源NVIDIA)
在价格上,已经的 Jetson Orin Nano Super 成为了目前市场上最具性价比的选择之一,售价仅为249美元,相比之前的版本价格几乎减半,进一步降低了边缘AI技术的部署门槛。
汉智兴边缘AI产品
同时,Jetson生态系统合作伙伴也增强了他们的解决方案,以支持这种提升的性能。
汉智兴科技作为英伟达NPN嵌入式计算合作伙伴,也将同步提供最新的 Jetson Orin Nano / NX Super 相关产品及服务。
点击了解更多 Jetson Orin Nano / Jetson Orin NX 产品