Linux/Windows Docker GPU使用指南：安装nvidia-container-toolkit与配置深度学习环境

Linux,win-Docker使用GPU最新方式

通过GPU服务器上的Docker使用GPU时出现一个常见问题：Errorresponsefromdaemon:couldnotselectdevicedriver"nvidia"withcapability:[[gpu]]。

问题原因

出现此问题是因为未安装nvidia-container-toolkit。
该工具的目的是旧版本的Docker不支持GPU，需要nvidia-docker才能运行支持GPU的映像。
Docker增强的GPU支持已将相关工具集成到nvidia-container-toolkit中。
使用GPUDocker镜像只需安装这两个组件即可。

解决步骤：首先，下载nvidia-container-toolkit依赖包。
对于Ubuntu20.04，进入对应版本目录查找合适的amd64架构安装包。
下载最新版本的依赖项，例如libnvidia-container、libnvidia-container-tools和nvidia-container-toolkit。
确保它与您的NVIDIA-smi驱动程序版本兼容。
如果有任何问题，可能需要进行调整。
安装时按照官网的顺序（libnvidia-container->libnvidia-container-tools->nvidia-container-toolkit）并重启Docker。
如果遇到问题，请排查并解决，确保nvidia-smi能够成功显示显卡信息，并通过Docker测试验证GPU使用情况。
WindowsGPU使用情况

如果WindowsDocker配置不正确，您可能会遇到“unknownorinvalidruntimename:nvidia”错误。
更新的配置步骤要求您的计算机安装有GPU和驱动程序。

对Docker进行必要的配置调整后，您可以在容器内成功调用GPU。

Docker中使用GPU

Docker中使用GPU的方法主要分为启动容器时指定显卡设备、使用nvidia-docker、以及Docker19版本之后的方法。
启动容器时，可以使用--gpus参数指定显卡设备。
使用nvidia-docker时，该软件是Docker的一个软件包，它可以让容器看到并使用主机的Nvidia显卡，而无需在容器中安装CUDA/GPU驱动程序来匹配主机内核模块。
启动示例为：`dockerrun--rm--gpus2nvidia/cudanvidia-smi`。
从Docker版本19开始，要运行需要GPU的Docker容器，只需添加“--gpusall”参数即可使用所有GPU。
如果您想指定特定的GPU，请使用`--gpus'device=1,2'`。
当GPU设备未挂载时，需要将GPUdriver和CUDAToolkit重新安装到容器中。
仅挂载GPU设备时，虽然Nvidia-SMI可以正常运行，但深度学习框架可能无法正常工作。
挂载GPU设备并挂载CUDADriver相关文件后，nvidia-smi和PyTorch可以正常运行，但Paddle可能无法正常运行，因为它可能缺少CUDAToolkit套件和cudnn。
如果镜像自带CUDAToolkit包，挂载GPU设备并挂载CUDADriver相关文件后，Paddle可以正常运行。
更详细的信息和总结参考：DockerGPU使用总结-林海峰-博客园。

抽空给笔记本装个显卡驱动，pytorch+CUDAdocker环境配置

大家好，我是小宇。
春节期间我忙着设计新产品，目前正在广州过周末。
今天特意花时间为自己的笔记本安装了显卡驱动，并搭建了PyTorch和CUDADocker环境。
希望能够对大家有所帮助。
如果您还需要开发深度学习，尤其是使用GPU，本内容将指导您完成关键步骤。

虽然我很多年前就分享过类似的文章，但这里有更详细的Ubuntu22.04的NVIDIA驱动和CUDA配置教程。
首先，到NVIDIA官网（nvidia.cn/Download/index.html）选择适合自己的驱动版本，按照以下步骤下载并安装：

下载驱动安装包，运行具有管理员权限的安装程序，并按照提示进行安装。
重启电脑，使用nvidia-smi命令检查驱动是否安装成功

接下来我们搭建PyTorch的Docker环境，让你的笔记本具备开发深度学习的能力。
这个过程包括但不限于配置环境变量和镜像。
请记住在继续之前确保您的显卡有足够的内存，因为某些应用程序可能需要更大的内存支持。

原本打算安装autoware，但由于显卡内存有限，只好暂时放弃。
等装备升级后我会继续尝试。
如果您遇到类似的问题，本指南或许可以帮助您解决当前的困扰。