NVIDIA借助Jetson agx orin加大对边缘AI的投入

NVIDIA 通过更新边缘AI计算设备来发展 Jetson 边缘计算平台。在举行的 GPU 技术大会 (GTC) 上，该公司宣布推出其 Jetson AGX Orin 开发者套件，这是一款用于运行 AI 解决方案的强大边缘计算平台。

NVIDIA Orin 系统级模块 (SoM) 基于 NVIDIA Ampere GPU 架构，具有 2048 个 CUDA 核心、64 个张量核心和 2 个深度学习加速器 (DLA) 引擎，每秒可提供高达 275 万亿次操作 (TOPS)人工智能性能。

NVIDIA 声称 Jetson AGX Orin 的速度是 Jetson AGX Xavier 的 8 倍，能源效率是 Jetson AGX Xavier 的 2 倍，Jetson AGX Xavier 是 2018 年推出的用于在边缘运行高级 AI 解决方案的 SoM。使用与 AGX Xavier 相同的引脚配置，客户可以轻松地将其现有的边缘 AI 应用程序移植到 AGX Orin。

与 Jetson AGX Xavier 提供的 32 TOPS 相比，AGX Orin 的性能提高了 8 倍，深度学习加速器 (DLA) 性能提高了 9 倍，CPU 性能提高了 1.5 倍，DRAM 带宽提高了 1.5 倍。

Jetson AGX Orin 模块明显加速了计算机视觉和对话式 AI 模型的推理。下表来自 NVIDIA 比较了 Jetson AGX Xavier 和 Jetson AGX Orin 的推理性能。

与 Jetson 系列的其他产品类似，AGX Orin 硬件有两种类型 - 开发工具包和生产模块。开发者工具包用于设计 AI 解决方案的原型，这些解决方案可以基于生产就绪模块轻松移动到生产环境中。

开发人员套件基于 Jetson AGX Orin 模块，带有散热器和参考载板，在 M.2 key E 插槽中配备 802.11ac/abgn WiFi 控制器、一个 RJ45（最高 10 GbE）端口、一个 16通道 MIPI CSI-2 连接器、支持 x8 PCIe 的 x16 PCIe 插槽、用于额外 PCIe 支持的 M.2 Key M 插槽以及用于连接外围设备的 4X USB A 和 2XUSB C 端口。

Jetson AGX Orin 开发工具包附带 JetPack 5.0 的预发布版本，该版本在基于 Linux Kernel 5.10 的 Ubuntu 20.04 上运行。它还包括安全功能，例如硬件信任根、安全启动、磁盘加密和安全存储。

NVIDIA Jetson 系列是最全面的边缘计算人工智能平台。从一开始的jetson nano到运行高级 AI 解决方案的企业可以选择高端的 Jetson AGX Orin。Jetson 设备系列针对广泛的 AI 用例和场景，从业余爱好项目到大型应用场景系列。

随着将 AI 工作负载转移到边缘，它们需要更高的处理能力和硬件驱动的加速。借助 Jetson AGX Orin，NVIDIA 承诺在边缘提供服务器级 AI 性能，使其成为一流的边缘平台。

NVIDIA 在云/数据中心和边缘环境方面进行创新，为 AI 工作负载提供加速计算平台。