手把手教你在linux上安装pytorch与cuda

1.  pytorch在使用GPU的时候需要用到cuda toolkit，该工具是软件与硬件的桥梁。
2.  cuda有两个意思，一个是运行时cuda（cuda toolkit），一个是驱动器cuda（cuda driver）。通常我们的服务器上已经安装过了cuda driver，一般不需要再重新安装，所以本文所安装的cuda指的是安装运行时cuda，即cuda toolkit。

一般我们会根据深度学习项目的环境需求先定下来pytorch的版本，比如chatglm系列要求pytorch>=2.0.0，那么我们就需要根据该要求根据下表找到与之对应的python与cuda的对应版本。  
![[图片]](https://img-blog.csdnimg.cn/166cc3bea8cf4904b621c04696c7f8a9.png)  
![[图片]](https://img-blog.csdnimg.cn/aed80137c9634a2b84b45ae0b15e5f23.png)

这里我们选择安装pytorch2.0.1、python3.9、cuda11.7。 还有一个重要的点是安装的cuda toolkit版本不能超过cuda driver的版本，cuda driver的版本通过nvidia-smi命令查看，下图的右上角即是服务器的cuda驱动版本（12.2），这里我们安装的11.7的cuda toolkit满足要求。

![[图片]](https://img-blog.csdnimg.cn/8333cd98b61e45db98a5ef49260ace99.png)

## 新建conda虚拟环境（可选）

这一步不是必要的，但请确保已经安装了正确版本的python。  
这里我们新建一个conda虚拟环境，名为pytorch2.0，顺带安装3.9版本的python。

```bash

conda create -n pytorch2.0 python=3.9

conda activate pytorch2.0
```

至此虚拟环境已建好，python已经安装完成。

## 安装cuda（cuda toolkit）

### 下载cuda toolkit安装包

[cuda toolkit安装包官网地址](https://developer.nvidia.com/cuda-toolkit-archive)

1.  进入cuda官网，选择11.7版本的cuda toolkit。  
    ![在这里插入图片描述](https://img-blog.csdnimg.cn/30050d7569f746668f276c737887d3bd.png)
    
2.  根据自己系统的版本信息进行选择：  
    ![[图片]](https://img-blog.csdnimg.cn/1feb3b7905d448b8b2c65e8176604c35.png)  
    下载安装包：

```bash

wget https://developer.download.nvidia.com/compute/cuda/11.7.1/local_installers/cuda_11.7.1_515.65.01_linux.run

```

### 安装cuda toolkit

一般网上的教程安装都是用sudo命令，但是对于非管理员用户，我们可以通过更改安装目录避免使用sudo命令。

1.  找到cuda toolkit安装包的位置，然后使用如下命令安装：  
    ![[图片]](https://img-blog.csdnimg.cn/65be25c37584429191bb39bf078e64d3.png)
2.  等待一段时间（半分钟左右），终端会弹出cuda的安装界面。  
    ![[图片]](https://img-blog.csdnimg.cn/2cd16fe72ed84cc3a7fd4bc432c845ee.png)
3.  输入accept，表示接受协议。
4.  用回车键取消除cuda toolkit外的所有安装选项。  
    ![[图片]](https://img-blog.csdnimg.cn/72b2326f2c474f21ac310c7af514653e.png)
5.  回车进入options，再进入toolkit options，把里边所有选项都取消，然后进入change toolkit install path，更改为自定义的非管理区的路径，回车表示完成，回车Done。  
    ![[图片]](https://img-blog.csdnimg.cn/0f5c67bc13114f8bbde2632bd839b180.png)  
    ![[图片]](https://img-blog.csdnimg.cn/4b246818a0d147ba96f512ac1555866c.png)  
    ![在这里插入图片描述](https://img-blog.csdnimg.cn/5c4cace501be43938c3d7045b0f2d957.png)
6.  再进入options下的Library install path，修改同样的路径。  
    ![[图片]](https://img-blog.csdnimg.cn/6b37a50a0a7940b7be16322b90705d6a.png)  
    ![[图片]](https://img-blog.csdnimg.cn/2f0aa77cc91147ada8ded9513b1b0b52.png)
7.  Options Done后，回车install开始安装cuda toolkit。  
    ![[图片]](https://img-blog.csdnimg.cn/272e0727b92f482e9cf6d42b8d0e34d5.png)
8.  出现如下信息表示cuda toolkit已经安装到指定的位置，根据信息提示，我们需要配置环境变量。  
    ![[图片]](https://img-blog.csdnimg.cn/7c585939b1e349939c3cbbd5a323a9d3.png)

```bash

vim ~/.bashrc export PATH=/path/to/cuda11.7/bin:$PATH
export LD_LIBRARY_PATH=/path/to/cuda11.7/lib64:$LD_LIBRARY_PATH source ~/.bashrc
```

至此，cuda toolkit11.7已经安装完毕，输入nvcc -V命令，安装成功会显示如下信息：  
![[图片]](https://img-blog.csdnimg.cn/c33a9947eb474bf7a14ecf8593495558.png)  
当我们要更换其他版本的cuda toolkit的时候，只需要按照同样的流程走下来，然后修改环境变量就好。

## 安装pytorch

### 先用conda在线安装pytorch（大概率是cpu版本）

1.  先配置conda清华镜像源，打开~/.condarc文件(没有的话自己创建一个)，将如下内容复制到该文件中：

```
channels:
  - defaults
show_channel_urls: true
channel_alias: http://mirrors.tuna.tsinghua.edu.cn/anaconda
default_channels:
  - http://mirrors.tuna.tsinghua.edu.cn/anaconda/pkgs/main
  - http://mirrors.tuna.tsinghua.edu.cn/anaconda/pkgs/free
  - http://mirrors.tuna.tsinghua.edu.cn/anaconda/pkgs/r
  - http://mirrors.tuna.tsinghua.edu.cn/anaconda/pkgs/pro
  - http://mirrors.tuna.tsinghua.edu.cn/anaconda/pkgs/msys2

- https://mirrors.tuna.tsinghua.edu.cn/anaconda/cloud/pytorch/
custom_channels:
  conda-forge: http://mirrors.tuna.tsinghua.edu.cn/anaconda/cloud
  msys2: http://mirrors.tuna.tsinghua.edu.cn/anaconda/cloud
  bioconda: http://mirrors.tuna.tsinghua.edu.cn/anaconda/cloud
  menpo: http://mirrors.tuna.tsinghua.edu.cn/anaconda/cloud
  pytorch: http://mirrors.tuna.tsinghua.edu.cn/anaconda/cloud
  simpleitk: http://mirrors.tuna.tsinghua.edu.cn/anaconda/cloud
```

1.  用conda搜索可用的pytorch版本，确保想要的版本存在，然后用conda安装指定版本的pytorch：

```bash

conda search pytorch
```

![[图片]](https://img-blog.csdnimg.cn/69a0272b626444b29cbbb182e136a7c6.png)  
3\. 使用conda在线安装pytorch2.0.1，注意此时conda会优先安装cpu版本的pytorch。

```bash

conda install pytorch=2.0.1
```

![[图片]](https://img-blog.csdnimg.cn/63434a722c1743cc8b0afaf39f538136.png)

### 再手动安装gpu版本的pytorch

[清华大学pytorch镜像地址](https://mirrors.tuna.tsinghua.edu.cn/anaconda/cloud/pytorch/linux-64/)

1.  到清华镜像中找到我们需要的gpu版本的pytorch安装包。  
    ![[图片]](https://img-blog.csdnimg.cn/15bafc77f57e44589208807314422c99.png)
2.  可以右键复制该安装包的链接，通过如下命令下载安装包：

```bash

wget https://mirrors.tuna.tsinghua.edu.cn/anaconda/cloud/pytorch/linux-64/pytorch-2.0.1-py3.9_cuda11.7_cudnn8.5.0_0.tar.bz2
```

![[图片]](https://img-blog.csdnimg.cn/3a8a9e20b5004d49bc452b661c477b3f.png)  
3\. 下载完成后，找到gpu版本的pytorch安装包所在目录，输入如下命令安装，这个过程会覆盖掉之前安装的cpu版本的pytorch：

```bash
cd pytorch安装包下载的目录
conda install --offline pytorch-2.0.1-py3.9_cuda11.7_cudnn8.5.0_0.tar.bz2
```

![[图片]](https://img-blog.csdnimg.cn/9da1d32aa9ef4f498dc0681772f3c01b.png) 4. 至此，pytorch2.0.1已安装完毕，下面验证pytorch能否成功使用gpu(cuda)，输入torch.cuda.is\_available()返回true表示pytorch和cuda适配成功。

![[图片]](https://img-blog.csdnimg.cn/6c98d13c3121436fb2049ebb2b1e944d.png)