Jetson系列

NVIDIA借助Jetson agx orin加大对边缘AI的投入

2022-05-07 14:23:15 tuwei312 14

NVIDIA 通过更新边缘AI计算设备来发展 Jetson 边缘计算平台。在举行的 GPU 技术大会 (GTC) 上,该公司宣布推出其 Jetson AGX Orin 开发者套件,这是一款用于运行 AI 解决方案的强大边缘计算平台。

Jetson agx orin

NVIDIA Orin 系统级模块 (SoM) 基于 NVIDIA Ampere GPU 架构,具有 2048 个 CUDA 核心、64 个张量核心和 2 个深度学习加速器 (DLA) 引擎,每秒可提供高达 275 万亿次操作 (TOPS)人工智能性能。


NVIDIA 声称 Jetson AGX Orin 的速度是 Jetson AGX Xavier 的 8 倍,能源效率是 Jetson AGX Xavier 的 2 倍,Jetson AGX Xavier 是 2018 年推出的用于在边缘运行高级 AI 解决方案的 SoM。使用与 AGX Xavier 相同的引脚配置,客户可以轻松地将其现有的边缘 AI 应用程序移植到 AGX Orin。


与 Jetson AGX Xavier 提供的 32 TOPS 相比,AGX Orin 的性能提高了 8 倍,深度学习加速器 (DLA) 性能提高了 9 倍,CPU 性能提高了 1.5 倍,DRAM 带宽提高了 1.5 倍。



Jetson AGX Orin 模块明显加速了计算机视觉和对话式 AI 模型的推理。下表来自 NVIDIA 比较了 Jetson AGX Xavier 和 Jetson AGX Orin 的推理性能。


与 Jetson 系列的其他产品类似,AGX Orin 硬件有两种类型 - 开发工具包和生产模块。开发者工具包用于设计 AI 解决方案的原型,这些解决方案可以基于生产就绪模块轻松移动到生产环境中。


开发人员套件基于 Jetson AGX Orin 模块,带有散热器和参考载板,在 M.2 key E 插槽中配备 802.11ac/abgn WiFi 控制器、一个 RJ45(最高 10 GbE)端口、一个 16通道 MIPI CSI-2 连接器、支持 x8 PCIe 的 x16 PCIe 插槽、用于额外 PCIe 支持的 M.2 Key M 插槽以及用于连接外围设备的 4X USB A 和 2XUSB C 端口。


Jetson AGX Orin 开发工具包附带 JetPack 5.0 的预发布版本,该版本在基于 Linux Kernel 5.10 的 Ubuntu 20.04 上运行。它还包括安全功能,例如硬件信任根、安全启动、磁盘加密和安全存储。


NVIDIA Jetson 系列是最全面的边缘计算人工智能平台。从一开始的jetson nano到运行高级 AI 解决方案的企业可以选择高端的 Jetson AGX Orin。Jetson 设备系列针对广泛的 AI 用例和场景,从业余爱好项目到大型应用场景系列。


随着将 AI 工作负载转移到边缘,它们需要更高的处理能力和硬件驱动的加速。借助 Jetson AGX Orin,NVIDIA 承诺在边缘提供服务器级 AI 性能,使其成为一流的边缘平台。


NVIDIA 在云/数据中心和边缘环境方面进行创新,为 AI 工作负载提供加速计算平台。


首页
产品
案例
联系