Jetson系列

在 Nvidia Jetson Nano 上安装 CUDA

2022-05-24 tuwei312 2732

Jetson nano 可用作通用 Linux 驱动的计算机,得益于其 GPU 加速处理器,该计算机在机器学习推理和图像处理方面具有先进的用途。在并行处理方面,Jetson Nano 轻松胜过 Raspberry Pi 系列和几乎任何其他单板计算机;它通常仅由一个具有一个或多个内核的 CPU 组成,并且没有专用的 GPU。
‍然而,由于Jetson Nano是用特殊硬件设计的,为了充分利用GPU的硬件加速并行计算,需要安装一个特殊的框架,从而可以使用相同的框架编写机器学习程序. Nvidia 将这种在 GPU 上实现并行计算的特殊框架称为CUDA(计算统一设备架构)。CUDA 主要是用 C/C++ 编写的,并且存在对 Python 和 Fortran 等语言的额外支持。该框架支持非常流行的机器学习框架,例如 Tensorflow、Caffe2、CNTK、Databricks、H2O.ai、Keras、MXNet、PyTorch、Theano 和 Torch。

正确安装后,CPU 可以通过 CUDA 框架调用 GPU 上的 CUDA 函数,从而实现并行计算的可能性。下面的流程图显示了执行 GPU 加速时的典型程序流程:



在 Jetson Nano 上安装 CUDA:

要在 Jetson Nano(或任何其他 Jetson 板)上安装 CUDA 工具包,主要有两种方法:


1.通过JetPack SDK安装

2.从Debian(Ubuntu)存储库安装

3.从CUDA存储库安装


虽然从 CUDA 存储库安装允许我们安装迄今为止最新和最好的版本,但明智的选择是坚持使用 JetPack SDK 或 Debian 存储库,其中分发了最稳定的框架版本。


从Nvidia SDK Manager安装 JetPack SDK 时,会自动安装 CUDA 及其支持库,如 cuDNN、cuda-toolkit,安装后即可使用;因此无需安装任何额外的东西即可开始使用 CUDA 库。

从 Debian 存储库安装:

在您的 Jetson Nano 上安装 CUDA 之前,请确保您已完成本指南中的安装前先决条件,以确保顺利、无忧地安装。

完成预安装后,执行以下命令安装 CUDA 工具包:

 wget https://developer.download.nvidia.com/compute/cuda/repos/ubuntu1804/sbsa/cuda-ubuntu1804.pin

‍ sudo mv cuda-ubuntu1804.pin /etc/apt/preferences.d/cuda-repository-pin -600

 wget http://developer.download.nvidia.com/compute/cuda/11.0.2/local_installers/cuda-repo-ubuntu1804-11-0-local_11.0.2-450.51.05-1_arm64.deb

sudo dpkg -i cuda-repo-ubuntu1804-11-0-local_11.0.2-450.51.05-1_arm64.deb

‍ sudo apt-key add /var/cuda-repo-ubuntu1804-11-0-local/7fa2af80.pub
 sudo apt-get update

‍ sudo apt-get -y install cuda

         在某些安装中,sudo apt-get -y install cuda命令会返回一个错误,指出无法安装某些依赖项。如果是,请执行以下命令强制安装并恢复安装。

sudo apt-get -o dpkg::Options::="--force-overwrite" install --fix-broken

验证安装:

执行dpkg -l | grep cuda将显示与下图类似的输出,验证安装是否完成。




在/usr/local/cuda-11.0/bin目录中,您将能够找到 nvcc(CUDA 编译器工具包),可用于编译利用 CUDA 框架的程序。



安装后

安装 CUDA 库和框架后,作为安装后设置,需要更新操作系统的 PATH 变量以使安装的库在整个系统中可用(即在 CUDA 应用程序中编译)。‍ 使用
Nvidia 提供的本指南,确保更新安装目录并完成设置。在 PATH 更新之后,从任何目录执行 nvcc --version 应该会返回以下响应。




一次在多个 Jetson Nano 设备上安装 CUDA/更新现有安装

使用 JFrog Connect 的微更新工具,您可以轻松地执行更新命令来更新多个 Jetson 边缘设备中的 CUDA 安装(即从 10.0 到 11.2)。JFrog Connect 不仅提供了这些,还提供了大量的远程物联网边缘设备管理工具来帮助您管理和控制部署在现场的设备。

首页
产品
案例
联系