手把手教你升級PyTorch 2.0和CUDA
為什么要升級？
- PyTorch 2.x更快，更符合Python語言習慣，仍然具有動態性。
- 棄用CUDA 11.6和Python 3.7支持。
升級目標
升級之后，使Python、CUDA、CUDNN、PyTorch的版本如下所示：
- Python ≥ 3.8，≤ 3.11
- CUDA ≥ 11.7.0
- CUDNN ≥ 8.5.0.96
- PyTorch ≥ 2.0.0
使用PyTorch 2后，人們將大大提升日常使用PyTorch的方式。
數據科學家將能夠在PyTorch 2.x中完成與1.x相同的任務，并且可以更快速、更大規模地完成任務。
升級步驟
如果你的Python版本≥ 3.8，≤ 3.11，請跳到下一部分
將Python從≤3.8升級到3.10的步驟：
- 對于全新安裝，請刪除所有現有的Python相關文件
# 用實際的版本號替換X
sudo apt --purge remove python3.X
sudo apt-get autoremove
sudo apt-get autoclean- 預安裝操作
sudo apt update
# 安裝所需的依賴項
sudo apt install build-essential zlib1g-dev libncurses5-dev libgdbm-dev libnss3-dev libssl-dev libreadline-dev libffi-dev wget- 從源代碼安裝Python 3.10.6
從Python網站下載所需的版本（這里是3.10.6）。
【網址】：https://www.python.org/downloads/source/
# 提取源代碼
tar -xvf Python-3.10.6.tgz
# 配置構建
cd python-3.10.6
./configure --enable-optimizations --prefix=/usr/local
# 開始構建過程
make -j $(nproc)
# 構建完成后，安裝Python
sudo make install打開./bashrc文件，并在末尾添加以下行：
export PATH="/usr/local/bin:$PATH"保存文件并通過運行以下命令更新當前會話的環境變量：
source ~/.bashrc驗證Python版本：
python3 --version
which python3如果CUDA≥11.7.0，請跳到下一部分
使用Nvidia Geforce RTX顯卡在Ubuntu 22.04上升級Cuda ≤ 11.7的步驟：
- 對于全新安裝，請刪除所有現有的CUDA相關文件
sudo apt-get --purge remove "*cuda*" "*cublas*" "*cufft*" "*cufile*" "*curand*" "*cusolver*" "*cusparse*" "*gds-tools*" "*npp*" "*nvjpeg*" "nsight*"
sudo apt-get --purge remove "*nvidia*"
sudo apt-get autoremove
sudo apt-get autoclean- 預安裝操作：
# 驗證你是否擁有支持CUDA的GPU
lspci | grep -i nvidia
# 驗證系統是否已安裝gcc
gcc --version
# 驗證系統是否已安裝正確的內核頭文件和開發包
sudo apt-get install linux-headers-$(uname -r)- 安裝NVIDIA CUDA工具包11.7.1（推薦使用Debian安裝程序）
# 安裝存儲庫元數據，更新GPG密鑰，更新apt-get緩存并安裝CUDA
wget https://developer.download.nvidia.com/compute/cuda/repos/ubuntu2204/x86_64/cuda-ubuntu2204.pin
sudo mv cuda-ubuntu2204.pin /etc/apt/preferences.d/cuda-repository-pin-600
wget https://developer.download.nvidia.com/compute/cuda/11.7.1/local_installers/cuda-repo-ubuntu2204-11-7-local_11.7.1-515.65.01-1_amd64.deb
sudo dpkg -i cuda-repo-ubuntu2204-11-7-local_11.7.1-515.65.01-1_amd64.deb
sudo cp /var/cuda-repo-ubuntu2204-11-7-local/cuda-*-keyring.gpg /usr/share/keyrings/
sudo apt-get update
sudo apt-get -y install cuda有關更多關于在Ubuntu 22.04上升級CUDA的詳細步驟，你可以參考以下鏈接：https://developer.nvidia.com/cuda-toolkit-archive。
在安裝CUDA時，可能要求你為MOK管理創建密碼，請執行此操作。
重新啟動系統以加載NVIDIA驅動程序。如果出現藍屏，請不要繼續啟動，而是登記提供你之前創建的密碼的密鑰，然后繼續啟動。
打開./bashrc文件，并在末尾添加以下行:
export PATH=/usr/local/cuda-11.7/bin${PATH:+:${PATH}}
export LD_LIBRARY_PATH=/usr/local/cuda-11.7/lib64${LD_LIBRARY_PATH:+:${LD_LIBRARY_PATH}}保存文件并通過運行以下命令更新當前會話的環境變量：
source ~/.bashrc驗證CUDA版本：
nvcc --version
nvidia-smi如果已經CUDNN≥8.5.0.96，請跳到下一部分
升級CUDNN≤ 8.5.0.96的步驟：
- 安裝CUDNN 8.5.0.96（建議使用Debian安裝程序）
wget https://developer.nvidia.com/compute/cudnn/secure/8.5.0/local_installers/11.7/cudnn-local-repo-ubuntu2204-8.5.0.96_1.0-1_amd64.deb
sudo dpkg -i cudnn-local-repo-ubuntu2204-8.5.0.96_1.0-1_amd64.deb
# 導入CUDA GPG密鑰
sudo cp /var/cudnn-local-repo-ubuntu2204-8.5.0.96/cudnn-local-*-keyring.gpg /usr/share/keyrings/
# 刷新存儲庫元數據
sudo apt-get update
# 安裝運行時的庫
sudo apt-get install libcudnn8=8.5.0.96-1+cuda11.7
# 安裝開發人員庫
sudo apt-get install libcudnn8-dev=8.5.0.96-1+cuda11.7有關詳細信息，請參見此處（https://developer.nvidia.com/rdp/cudnn-archive）。
如果你已經有PyTorch≥ 2.0.0，則非常棒。
升級PyTorch≤ 2.0.0的步驟：
# 如果你有virtualenv并使用pip作為管理器
pip install torch==2.0.0+cu117 torchvision==0.15.1+cu117 torchaudio==2.0.1 --index-url https://download.pytorch.org/whl/cu117對于其他操作系統或包管理器，請參見此處（https://pytorch.org/get-started/previous-versions/）。
有關下載wheel文件的詳細信息，請參見此處（https://download.pytorch.org/whl/cu117）。
驗證PyTorch 2.0的安裝：
python3 -c "import torch; print(torch.__version__)"
