Tensorflow, GPU 사용하기: CUDA, CuDNN 설치하기

참고

• 텐서플로우 gpu 설정 (velog.io)
• Tensorflow, CUDA, CuDNN 버전
  • Windows의 소스에서 빌드,Windows의 소스에서 빌드 | TensorFlow

목적

• Python에서 machine learning 알고리즘을 돌릴 때 GPU를 사용하기 위함
• Tensorflow 사용 기준
• NVIDIA RTX 3060 기준

방법

1. NVIDIA 드라이버 다운로드 및 설치
   1. 공식 드라이버 | NVIDIA
   2. Win+X → 장치관리자에서 디스플레이 어댑터 확인
2. CUDA 설치
   1. Powershell에서 nvidia-smi입력해서 CUDA 버전 확인
   2. 적절한 CUDA 버전 다운로드 및 설치
      1. CUDA Toolkit 12.3 Update 2 Downloads | NVIDIA Developer

(중요!!) Tensorflow는 GPU를 CUDA 11.2까지만 지원하므로 CUDA 버전이 11.2 이상이어도 CUDA 11.2를 설치해야 함 → 아래 주의사항 확인

1. CuDNN 설치
   1. CUDA Deep Neural Network (cuDNN) | NVIDIA Developer
   2. NVIDIA account 생성 미리 필요함
   3. CUDA 버전에 맞는 CuDNN 다운로드
   4. 압축 풀어서 안에 있는 폴더 내용을 CUDA 설치 폴더에 덮어 쓰기
      1. GPU 지원 | TensorFlow
      2. CUDA 설치 폴더 예시: C:\\Program Files\\NVIDIA GPU Computing Toolkit\\CUDA\\v12.3
   5. PATH에 다음 경로를 추가 (시스템 정보 → 고급 시스템 설정 → 고급 탭 → 환경 변수 → 시스템 변수 → PATH)
      • C:\Program Files\NVIDIA GPU Computing Toolkit\CUDA\v12.3\bin
      • C:\Program Files\NVIDIA GPU Computing Toolkit\CUDA\v12.3\extras\CUPTI\lib64
      • C:\Program Files\NVIDIA GPU Computing Toolkit\CUDA\v12.3\include

결과물

• Powershell에서 python을 열어서 다음 코드로 GPU 인식 확인
  • GPU 사용하기 | TensorFlow Core
  • Tensorflow 버전 확인 필요 (Windows의 소스에서 빌드,Windows의 소스에서 빌드 | TensorFlow) → 아래 주의사항 확인

    import tensorflow as tf
    print(tf.config.list_physical_devices('GPU'))

주의사항

• 윈도우에서 GPU를 사용한 tensorflow는 tensorflow 2.10까지만 지원하고, 이를 위해서 CUDA 11.2를 설치해야 함
  • Windows의 소스에서 빌드,Windows의 소스에서 빌드 | TensorFlow
• 만약 CUDA 11.2보다 상위 버전을 설치해서 CUDA 11.2 설치가 안 되는 경우 다음을 삭제한 후 CUDA 11.2 설치
  • NVIDIA Installer cannot continue - CUDA / CUDA Setup and Installation - NVIDIA Developer Forums
  • CUDA 12.3 (설치한 상위 버전)
  • NVIDIA Frameview SDK
  • NVIDIA PhysX
• Tensorflow 버전 2.10 이하 버전이 필요하므로, tensorflow 설치 시 다음과 같이 버전 지정 필요
  • pip install 'tensorflow<2.10'