装N卡驱动，配置cuda和cudnn

admin

AI的Nvidia驱动：
使用Cuda直接装就可以：
一般win10会先自动装一个驱动，然后下载Cuda（从Nvidia官网）：https://developer.nvidia.com/cud ... rget_type=exe_local
安装cuda会自动更新驱动
然后再安装这个：
https://developer.nvidia.com/cud ... rget_type=exe_local
然后注意：
特别注意 runtime: nvidia，这要求您的 Docker 环境中安装了 NVIDIA Container Toolkit，并且您的 Docker 主机上有可用的 NVIDIA GPU。

参考：
https://blog.csdn.net/m0_56255097/article/details/142638086

说明：
The NVIDIA Container Toolkit is a collection of libraries and utilities enabling users to build and run GPU-accelerated containers. It currently includes:
The NVIDIA Container Runtime (nvidia-container-runtime)

The NVIDIA Container Toolkit CLI (nvidia-ctk)

The NVIDIA CDI Hooks (nvidia-cdi-hook)

The NVIDIA Container Runtime Hook (nvidia-container-runtime-hook)

The NVIDIA Container CLI (nvidia-container-cli)

The NVIDIA Container Library (libnvidia-container1)

有关container-toolkit 也可以查看：WARNING: The NVIDIA Driver was not detected.  GPU functionality will not be available.
   Use the NVIDIA Container Toolkit to start this container with GPU support; see
   https://docs.nvidia.com/datacenter/cloud-native/ .
一般一楼就很全了，不用看二楼的，要看就看这里的。
检查驱动安装效果：

1. nvidia-smi
   
2. nvcc -V

复制代码

第二个命令我记得是在wsl里安装的。反正安装好后两边都能用。

admin

如何给windows宿主机安装Nvidia container toolkit
在Windows上安装NVIDIA Container Toolkit可以让您在Docker容器中利用NVIDIA GPU进行深度学习或其他GPU加速任务。以下是安装NVIDIA Container Toolkit的步骤：

前提条件
Windows 10或Windows 11：确保您的系统是64位的，并且更新到最新版本。

NVIDIA GPU：您的计算机必须有一个NVIDIA GPU，并且已安装NVIDIA驱动程序。

Docker Desktop：确保已经安装了Docker Desktop for Windows，并且启用了WSL 2（Windows Subsystem for Linux 版本2）。

步骤1：安装NVIDIA驱动程序
首先，确保您的NVIDIA GPU上安装了最新的NVIDIA驱动程序。您可以从NVIDIA官网下载并安装适合您GPU的驱动程序。

步骤2：启用WSL 2
打开Docker Desktop。

在设置中，选择“通用”标签页。

确保“使用WSL 2而不是Hyper-V”选项被勾选。

重启Docker Desktop。

步骤3：安装NVIDIA Container Toolkit
在Windows上，NVIDIA Container Toolkit通常是通过Docker扩展来安装的，而不是直接从NVIDIA官网下载。以下是安装步骤：

打开Docker Desktop。

进入扩展：在Docker Desktop的侧边栏中，点击“扩展”图标（通常是一个立方体的图标）。

搜索NVIDIA Container Toolkit：在扩展市场中搜索“NVIDIA Container Toolkit”。

安装扩展：找到NVIDIA Container Toolkit扩展，点击“安装”。

重启Docker Desktop：安装完成后，重启Docker Desktop以使更改生效。

步骤4：验证安装
打开命令行工具（如PowerShell或CMD），运行以下命令以验证NVIDIA Container Toolkit是否正确安装并配置：

1. docker run --gpus all nvidia/cuda:11.0-base nvidia-smi

复制代码

这个命令会运行一个包含CUDA 11.0的容器，并执行nvidia-smi命令来显示GPU的状态信息。如果一切正常，您将看到GPU的使用信息。

常见问题解决
如果WSL 2未启用：确保在Docker Desktop设置中启用了WSL 2。

如果找不到NVIDIA Container Toolkit扩展：请确保您的Docker Desktop是最新版本。

如果GPU不被识别：重新启动Docker Desktop和计算机，并检查NVIDIA驱动程序是否正确安装。

通过以上步骤，您应该能够在Windows宿主机上成功安装并使用NVIDIA Container Toolkit。

admin

解决Docker中“unknown or invalid runtime name: nvidia”错误
这个错误通常发生在尝试使用NVIDIA的Docker容器工具（如nvidia-docker或nvidia-container-toolkit）来运行需要GPU加速的Docker容器时，但Docker守护进程没有正确配置或识别NVIDIA的运行时。下面是一些解决步骤：

确认NVIDIA Docker工具已安装

首先，确保您的系统上已经安装了NVIDIA Docker工具。这可以通过运行以下命令来检查：

bash
采纳
复制
新建文件
nvidia-docker --version
或者对于较新的版本，使用：

bash
采纳
复制
新建文件
docker run --rm --gpus all nvidia/cuda:latest nvidia-smi
如果这些命令返回了版本信息或成功执行了nvidia-smi，那么NVIDIA Docker工具已经安装。

检查Docker守护进程的配置

Docker守护进程需要配置为使用NVIDIA的运行时。这通常在Docker的配置文件/etc/docker/daemon.json中设置。确保您的daemon.json文件包含以下内容：

json
采纳
复制
新建文件
{
  "runtimes": {
    "nvidia": {
      "path": "nvidia-container-runtime",
      "runtimeArgs": []
    }
  }
}
修改后，重启Docker服务以应用更改：

bash
采纳
复制
新建文件
sudo systemctl restart docker
验证NVIDIA运行时

确保nvidia-container-runtime可执行文件存在于您的系统中，并且Docker守护进程有权限执行它。通常，这个文件位于/usr/bin/nvidia-container-runtime。

检查Docker版本和兼容性

确保您的Docker版本与NVIDIA Docker工具兼容。有时，升级Docker或NVIDIA Docker工具可以解决问题。

查看日志以获取更多信息

如果问题仍然存在，查看Docker守护进程的日志可能会提供更多线索：

bash
采纳
复制
新建文件
journalctl -u docker.service
或者，您可以使用docker info命令查看Docker的详细信息，包括配置的运行时。

重新安装NVIDIA Docker工具

如果上述步骤都不能解决问题，尝试卸载并重新安装NVIDIA Docker工具可能有助于解决配置问题。

通过按照这些步骤操作，您应该能够解决“unknown or invalid runtime name: nvidia”错误，并成功运行需要GPU加速的Docker容器。

admin

Linux(Ubuntu) 自动安装Nvidia驱动：
当下载的驱动提示本地还有更好的安装方法时，可以考虑使用如下方法安装驱动：

1. sudo ubuntu-drivers autoinstall

复制代码

安装完毕后记得重启。
验证各个驱动是否工作的脚本：

1. python -c "
   
2. import platform
   
3. print('系统架构:', platform.machine())
   
4. print('操作系统:', platform.system())
   
5. print('Python版本:', platform.python_version())
   
6. import torch
   
7. print('PyTorch版本:', torch.__version__)
   
8. print('CUDA可用:', torch.cuda.is_available())
   
9. if torch.cuda.is_available():
   
10.     print('CUDA版本:', torch.version.cuda)
    
11.     print('GPU数量:', torch.cuda.device_count())
    
12. "

复制代码