[Linux] NVIDIA Multi-CUDA 설치 및 CUDA 버전 변경하기 (GCC 버전도 맞추기)

💡 본 문서는 '[Linux] NVIDIA Multi-CUDA 설치 및 CUDA 버전 변경하기'에 대해 정리해놓은 글입니다.
본 글에서는 CUDA 설치 방법에 대해 다룹니다. 특히 여러 오픈소스를 실행해야하는 경우, CUDA를 여러개 설치해야 하는 경우가 많이 발생하기에 Multi CUDA설치 방법까지 같이 정리하였으니 참고하시기 바랍니다.

1. 설치 가능한 CUDA버전 확인

pytorch 버전 호환 설치글의 '2. CUDA 버전 호환 체크'를 보고 보유중인 GPU에서 설치 할 수 있는 최신 CUDA버전을 확인 합니다.

2. 설치 확인

에러가 발생 할 수도 있습니다. 현 시점에서 에러는 상관없습니다.

$ nvidia-smi         # 그래픽 드라이버 설치 확인
$ nvcc --version     # cuda버전 확인
$ ls -l /usr/local   # 설치된 cuda 버전 확인

3. 기존 CUDA 제거

선택 사항입니다. 2번에서 에러가 발생하거나, 현재 설치된 CUDA버전이 낮을 경우 실행해주시면 됩니다.

Sudo apt-get purge nvidia* # apt로 설치된 dirver제거. ※ 주의 nvidia-docker가 제거 될 수 있음. 이 경우 $apt list nvidia* 결과 보고 하나씩 제거
Sudo apt-get autoremove    # nvidia* 패키지 의존성에 의해 설치된 다른 패키지도 제거
Sudo apt-get autoclean     # 오래됬거나 불완전한 패키지 제거
Sudo rm -rf /usr/local/cuda* # CUDA 제거

4. CUDA 설치

우선, (1을 참조하여) 설치 가능한 가장 높은 CUDA버전 확인 후, 필요한 CUDA 버전을 link 에서 다운로드 합니다. 

저는 제 GPU가 지원하는 가장 높은 버전인 CUDA 12.4와 필요로 하는 CUDA 11.3를 다운받았습니다.

installation instruction에 따라 명령어를 입력합니다. 가이드 외에 추가로 권한 설정이 필요로 합니다.

$ wget https://developer.download.nvidia.com/compute/cuda/12.4.0/local_installers/cuda_12.4.0_550.54.14_linux.runsudo 
$ chmod 777 cuda_12.4.0_550.54.14_linux.run
$ sh cuda_12.4.0_550.54.14_linux.run

마지막 명령어에서 많은 에러가 발생합니다. 제가 알고 있는 에러에 관해 글 하단에 정리해두었습니다.

조금만 기다리면 아래 메시지가 뜹니다.

accept 입력해줍니다.

저같은 경우엔 Demo suite, Documentation은 불필요해서 설치 제외했습니다. 여기서 CUDA 12.4가 필요 없는 경우, Driver만 설치해주면 됩니다. 아래와 같이 표시되면 제대로 설치된 것 입니다.

nvidia-smi 명령어로 설치가 됬는지 확인해줍니다.

(Multi CUDA 설치하실 분은) 동일하게 11.8을 설치합니다.

$ wget https://developer.download.nvidia.com/compute/cuda/11.8.0/local_installers/cuda_11.8.0_520.61.05_linux.run 
$ sudo chmod 777 cuda_11.8.0_520.61.05_linux.run
$ sudo sh cuda_11.8.0_520.61.05_linux.run

최신 버전과 다르게 설치해야하는 부분은 여기입니다. Driver는 최신버전으로 설치되었으므로, CUDA Toolkit만 설치해줍니다.

다음단계에서 update-alternatives로 CUDA 버전을 선택하게 만들 것이므로, No를 선택합니다. (이미지 캡쳐 잘못됬네요.)

nvidia-smi를 입력하면 동일하게 CUDA 12.4이라고 표시됩니다. CUDA 11.8을 실행하는데 큰 문제는 없습니다. 고질적인 표시 문제라고 합니다(link).

현재 적용된 CUDA 버전을 확인하기 위해선 nvcc -V 또는 nvcc --version를 입력하면 됩니다. nvcc 명령어가 안된다면, 연결이 필요합니다.

$ nvcc -V
Command 'nvcc' not found, but can be installed with:
sudo apt install nvidia-cuda-toolkit
이라고 표시되면 'sudo apt install nvidia-cuda-toolkit'를 하지 말고

$ vi ~/.bashrc
가장 아랫줄에 2줄 추가
export PATH=/usr/local/cuda/bin:$PATH
export LD_LIBRARY_PATH=/usr/local/cuda/lib64:$LD_LIBRARY_PATH

$ source ~/.bashrc
$ nvcc -V
nvcc: NVIDIA (R) Cuda compiler driver
Copyright (c) 2005-2022 NVIDIA Corporation
Built on Wed_Sep_21_10:33:58_PDT_2022
Cuda compilation tools, release 11.8, V11.8.89
Build cuda_11.8.r11.8/compiler.31833905_0

2. 리눅스(Linux) 환경에서 cuda 버젼 바꾸는 방법

1) symlink /usr/local/cuda

$ nano ~/.bashrc
...
export PATH="/usr/local/cuda-11.3/bin:$PATH"
export LD_LIBRARY_PATH="/usr/local/cuda-11.3/lib64:$LD_LIBRARY_PATH"

# <<< conda initialize <<<
alias cuda118='export PATH="/usr/local/cuda-11.3/bin:$PATH" && export LD_LIBRARY_PATH="/usr/local/cuda-11.3/lib64:$LD_LIBRARY_PATH"'
alias cuda121='export PATH="/usr/local/cuda-12.1/bin:$PATH" && export LD_LIBRARY_PATH="/usr/local/cuda-12.1/lib64:$LD_LIBRARY_PATH"'

$ source ~/.bashrc
$ nvcc -V
nvcc: NVIDIA (R) Cuda compiler driver
Copyright (c) 2005-2022 NVIDIA Corporation
Built on Wed_Sep_21_10:33:58_PDT_2022
Cuda compilation tools, release 11.8, V11.8.89
Build cuda_11.8.r11.8/compiler.31833905_0

2) update-alternatives

update-alternatives를 통해 cuda버전을 여러개 선택 할 수 있게 합니다. --install로 버전을 등록하고, --config로 선택 할 수 있게 합니다.

$ sudo update-alternatives --install /usr/local/cuda cuda /usr/local/cuda-11.8 118 
update-alternatives: using /usr/local/cuda-11.8 to provide /usr/local/cuda (cuda) in auto mode
$ sudo update-alternatives --install /usr/local/cuda cuda /usr/local/cuda-12.4 124
update-alternatives: using /usr/local/cuda-12.4 to provide /usr/local/cuda (cuda) in auto mode

$ sudo update-alternatives --config cuda
There are 2 choices for the alternative cuda (providing /usr/local/cuda).

  Selection    Path                  Priority   Status
------------------------------------------------------------
* 0            /usr/local/cuda-12.4   124       auto mode
  1            /usr/local/cuda-11.8   118       manual mode
  2            /usr/local/cuda-12.4   124       manual mode

Press <enter> to keep the current choice[*], or type selection number: 2

$ ls -l /usr/local
..
lrwxrwxrwx  1 root root   22  4월 28 01:03 cuda -> /etc/alternatives/cuda
drwxr-xr-x 16 root root 4096  4월  4 02:28 cuda-11.8
drwxr-xr-x 16 root root 4096  4월  4 01:59 cuda-12.4
...

/usr/local/cuda가 /etc/alternatives/cuda에 연결된 것을 볼 수 있습니다.

3) switch-cuda

[Github] switch-cuda: https://github.com/phohenecker/switch-cuda

+ CUDA Verseion에 맞는 GCC version 세팅하기

Check the maximum supported GCC version for your CUDA version:

Set an env var for that GCC version. For example, for CUDA 10.2:

MAX_GCC_VERSION=8

Make sure you have that version installed:

sudo apt install gcc-$MAX_GCC_VERSION g++-$MAX_GCC_VERSION

Add symlinks within CUDA folders:

sudo ln -s /usr/bin/gcc-$MAX_GCC_VERSION /usr/local/cuda/bin/gcc 
sudo ln -s /usr/bin/g++-$MAX_GCC_VERSION /usr/local/cuda/bin/g++

(or substitute /usr/local/cuda with your CUDA installation path, if it's not there)

See this GitHub gist for more information on the CUDA-GCC compatibility table. 

참고

• [StackOverFlow] CUDA incompatible with my gcc version: https://stackoverflow.com/questions/6622454/cuda-incompatible-with-my-gcc-version
• [Blog] CUDA 설치 & Multi CUDA 설치: https://xoft.tistory.com/86
• [Blog] Ubuntu 20.04 CUDA 11.2 GCC 10 python3.7 환경 세팅: https://backenddeveloper.tistory.com/184
• [Blog] 리눅스(Linux) 환경에서 cuda 버젼 바꾸는 방법: https://yangchanghee2251.github.io/ubuntu/cuda/