GPU-beschleunigtes Jupyter Notebook

Jupyter Notebook ist eine moderne Entwicklungsumgebung, die häufig für maschinelles Lernen und Informatik verwendet wird. Mit dieser Software können Sie Python-Code direkt über eine Webschnittstelle ausführen und die Ergebnisse sofort sehen. Allerdings gibt es ein Problem: Der Code wird auf der CPU ausgeführt. Wenn Sie möchten, dass er auf der GPU funktioniert, müssen Sie eine separate virtuelle Umgebung erstellen. In diesem Leitfaden zeigen wir Ihnen, wie Sie dies tun können.

Anaconda installieren

Installieren Sie zunächst die Python-Distribution Anaconda, die Tools für die Verwaltung virtueller Umgebungen enthält. Laden Sie das Shell-Skript herunter:

wget https://repo.anaconda.com/archive/Anaconda3-2023.09-0-Linux-x86_64.sh

Machen Sie dieses Skript ausführbar:

chmod a+x Anaconda3-2023.09-0-Linux-x86_64.sh

Führen Sie die Installation aus:

./Anaconda3-2023.09-0-Linux-x86_64.sh

Während des Vorgangs werden Sie aufgefordert, die Benutzervereinbarung zu lesen und einige Details zur Installation zu klären.

CUDA® installieren

Der nächste Schritt ist die Installation der neuesten Version des NVIDIA® CUDA® Toolkits. Weitere Informationen erhalten Sie in unserer Schritt-für-Schritt-Anleitung CUDA-Toolkit unter Linux installieren. Der einfachste Weg, dies zu tun, ist die Ausführung der folgenden Befehle. Holen Sie sich eine Pin-Datei für das CUDA-Repository:

wget https://developer.download.nvidia.com/compute/cuda/repos/ubuntu2204/x86_64/cuda-ubuntu2204.pin

Legen Sie diese Datei in einem Standard-Apt-Konfigurationsverzeichnis ab:

sudo mv cuda-ubuntu2204.pin /etc/apt/preferences.d/cuda-repository-pin-600

Laden Sie eine lokale Kopie des CUDA-Repositorys als einzelnes DEB-Paket herunter:

wget https://developer.download.nvidia.com/compute/cuda/12.3.2/local_installers/cuda-repo-ubuntu2204-12-3-local_12.3.2-545.23.08-1_amd64.deb

Installieren Sie das heruntergeladene Paket:

sudo dpkg -i cuda-repo-ubuntu2204-12-3-local_12.3.2-545.23.08-1_amd64.deb

Erstellen Sie ein GPG-Schlüsselpaar, um mit einem lokalen cuda-Repository zu arbeiten:

sudo cp /var/cuda-repo-ubuntu2204-12-3-local/cuda-*-keyring.gpg /usr/share/keyrings/

Aktualisieren Sie den Paket-Cache:

sudo apt-get update

Installieren Sie das CUDA-Toolkit mit dem Standard-Apt-Manager:

sudo apt-get -y install cuda-toolkit-12-3

Starten Sie den Server neu:

sudo shutdown -r now

Verbinden Sie sich erneut mit der SSH-Sitzung mit Portweiterleitung. Sie müssen Port 8888 auf localhost 127.0.0.1:8888 weiterleiten. Für weitere Informationen lesen Sie bitte diesen Artikel.

Erstellen Sie nach dem Neustart eine separate virtuelle Umgebung für GPU-Computing-Aufgaben:

conda create --name gpu_env python==3.8

Lassen Sie uns zusätzliche Pakete installieren:

conda install -c anaconda tensorflow-gpu keras-gpu

Haben Sie Geduld; dies kann bis zu 30 Minuten dauern. Nun sind wir bereit, die erstellte Umgebung zur Liste der verfügbaren Pakete hinzuzufügen.

python -m ipykernel install --user --name gpu_env --display-name "Python (GPU)"

Installieren Sie Torch mit CUDA-Unterstützung. Diese Pakete werden benötigt, um die Code-Beispiele auszuführen:

pip3 install torch torchvision torchaudio --extra-index-url https://download.pytorch.org/whl/cu118

Jupyter Notebook ausführen

Sie können diese Software mit nur einem Befehl ausführen:

(base) $ jupyter notebook

Öffnen Sie die Weboberfläche mit dem angezeigten Link und Token:

http://127.0.0.1:8888/?token=[put_your_own_token_from_console]

Testen Sie Ihre Installation mit einem kleinen Code, der die Verfügbarkeit von CUDA® prüft:

import torch
torch.cuda.is_available()

Wenn alles in Ordnung ist, erhalten Sie nach der Ausführung den Wert True. Sie können sich auch alle vorhandenen Nvidia-GPUs anzeigen lassen:

import subprocess
def get_gpu_info():
    try:
        return subprocess.check_output("nvidia-smi --query-gpu=gpu_name --format=csv,noheader", shell=True).decode('utf-8')
    except Exception as e:
        print(f"Error: {str(e)}")
        return None
print(get_gpu_info())

Siehe auch:

Aktualisiert: 28.03.2025

Veröffentlicht: 11.07.2024

Haben Sie noch Fragen? Schreiben Sie uns!