第一步：下载并导入NVIDIA的GPG密钥

curl -fsSL https://nvidia.github.io/libnvidia-container/gpgkey | sudo gpg --dearmor -o /etc/apt/keyrings/nvidia-container-toolkit-keyring.gpg

第二步：下载源列表并修改，然后保存到系统源目录

curl -s -L https://nvidia.github.io/libnvidia-container/stable/deb/nvidia-container-toolkit.list | \
  sed 's#deb https://#deb [signed-by=/etc/apt/keyrings/nvidia-container-toolkit-keyring.gpg] https://#g' | \
  sudo tee /etc/apt/sources.list.d/nvidia-container-toolkit.list

第三步：安装 Toolkit

sudo apt update  # 更新系统的软件包索引（让系统识别刚添加的NVIDIA源）
sudo apt install -y nvidia-container-toolkit  # 安装NVIDIA容器工具包（-y表示自动确认安装）

第四步：配置 Docker

sudo nvidia-ctk runtime configure --runtime=docker  # 自动配置Docker的运行时，添加NVIDIA支持
sudo systemctl restart docker  # 重启Docker服务，让配置生效

第五步：拉取镜像

docker pull nvidia/cuda:[版本]-[标签]-ubuntu22.04

版本：通过 nvidia-smi 命令输出出来的

标签	说明	用途
base	基础版，只包含 CUDA 运行时库（Runtime）	用于运行已经编译好的 CUDA 程序
runtime	运行版，在 base 基础上增加了更多依赖库	用于运行需要更多库支持的 CUDA 程序
devel	开发版，包含完整的 CUDA Toolkit（编译器、头文件、库等）	用于编译、开发 CUDA 程序

然后运行一个命令，能正常输出即为正确

docker run --rm --gpus all [镜像名称] nvidia-smi