[Docker] NVIDIA Container Toolkit 설치 (Ubuntu 24)

우분투 22 이전에서는 nvidia-docker인가 그걸 통해서 docker 컨테이너 지원을 했었는데, 24부터는 NVIDIA Container Toolkit이라는 이름으로 리뉴얼된듯하다.

설치 스크립트

curl -fsSL https://nvidia.github.io/libnvidia-container/gpgkey | sudo gpg --dearmor -o /usr/share/keyrings/nvidia-container-toolkit-keyring.gpg \
  && curl -s -L https://nvidia.github.io/libnvidia-container/stable/deb/nvidia-container-toolkit.list | \
    sed 's#deb https://#deb [signed-by=/usr/share/keyrings/nvidia-container-toolkit-keyring.gpg] https://#g' | \
    sudo tee /etc/apt/sources.list.d/nvidia-container-toolkit.list

sudo apt-get update

sudo apt-get install -y nvidia-container-toolkit

sudo nvidia-ctk runtime configure --runtime=docker

sudo systemctl restart docker

cuda 연동 확인

이제 컨테이너를 하나 실행해서, 정말 잘 연동되는지까지만 확인해보자.

적당히 cuda 기반 컨테이너 하나 실행해서

sudo docker run -it --name pytorch --gpus all nvidia/cuda:12.8.0-base-ubuntu22.04 /bin/bash

torch를 설치하고 실행한다.

그리고 is_available이 True면 완벽하게 연결이 된 것이다.
갖다가 잘 쓰면 된다.

참조
https://docs.nvidia.com/datacenter/cloud-native/container-toolkit/latest/install-guide.html