PyTorch kan de AI/ML-applicaties versnellen met behulp van een NVIDIA GPU via de NVIDIA CUDA-bibliotheek, net als TensorFlow.
In dit artikel laten we u zien hoe u PyTorch met NVIDIA GPU/CUDA-versnellingsondersteuning op Debian 12 “Bookworm” installeert.
Onderwerp van inhoud:
- De NVIDIA GPU-stuurprogramma's installeren op Debian 12
- NVIDIA CUDA installeren op Debian 12
- Python 3 PIP en Python 3 Virtual Environment (venv) installeren op Debian 12
- Een virtuele Python 3-omgeving creëren voor PyTorch
- Upgraden van Python 3 PIP naar de nieuwste versie in de virtuele Python 3 PyTorch-omgeving
- PyTorch installeren met NVIDIA GPU/CUDA-versnellingsondersteuning op Debian 12
- De virtuele PyTorch Python 3-omgeving activeren
- Toegang tot PyTorch en controleren of NVIDIA GPU/CUDA-versnelling beschikbaar is
- Conclusie
De NVIDIA GPU-stuurprogramma's installeren op Debian 12
Om PyTorch NVIDIA GPU/CUDA-versnelling te laten werken, moet u dit doen installeer de NVIDIA GPU-stuurprogramma's op Debian 12 . Als u hulp nodig heeft bij het installeren van de NVIDIA GPU-stuurprogramma's op uw Debian 12-systeem, lees dit artikel .
NVIDIA CUDA installeren op Debian 12
Om PyTorch NVIDIA GPU/CUDA-versnelling te laten werken op Debian 12, moet u dit doen installeer NVIDIA CUDA op Debian 12 . Als u hulp nodig heeft bij het installeren van NVIDIA CUDA op uw Debian 12-systeem, lees dit artikel .
Python 3 PIP en Python 3 Virtual Environment (venv) installeren op Debian 12
Om PyTorch op Debian 12 te installeren, moet de Python 3 PIP en Python virtuele omgeving (venv) geïnstalleerd zijn.
Werk eerst de cache van de APT-pakketrepository bij met de volgende opdracht:
$ sudo passende update 
Om Python 3 PIP en Python 3 virtuele omgeving (venv) te installeren, voert u de volgende opdracht uit:
$ sudo geschikt installeren python3-pip python3-venv python3-dev Om de installatie te bevestigen, drukt u op “Y” en vervolgens op
Python 3 PIP en Python 3 venv worden geïnstalleerd. Het duurt even voordat het klaar is.
Op dit punt moeten Python 3 PIP en Python 3 venv worden geïnstalleerd.
Een virtuele Python 3-omgeving creëren voor PyTorch
De standaardpraktijk voor het installeren van de Python-bibliotheken op Debian 12 is het installeren ervan in een virtuele Python-omgeving, zodat ze de Python-pakketten/-bibliotheken van het systeem niet hinderen.
Om een nieuwe virtuele Python 3-omgeving voor PyTorch te maken in de map '/opt/pytorch', voert u de volgende opdracht uit:
$ sudo python3 -M venv / kiezen / pytorchUpgraden van Python 3 PIP naar de nieuwste versie in de virtuele Python 3 PyTorch-omgeving
Om Python 3 PIP te upgraden naar de nieuwste versie van de virtuele Python 3 “/opt/pytorch”-omgeving, voert u de volgende opdracht uit:
$ sudo / kiezen / pytorch / bak / pip3 installeren --upgrade Pip 
PyTorch installeren met NVIDIA GPU/CUDA-versnellingsondersteuning op Debian 12
Om de PyTorch NVIDIA GPU/CUDA-versnelling te laten werken, moet u de juiste versie van PyTorch installeren die de NVIDIA CUDA-stuurprogrammaversie ondersteunt die u op uw Debian 12-systeem hebt geïnstalleerd. Op het moment dat we dit schrijven ondersteunt PyTorch de NVIDIA CUDA-stuurprogrammaversies 11.8 en 12.1. Voor bijgewerkte informatie over de NVIDIA CUDA-stuurprogrammaversies die PyTorch ondersteunt, kijk op de officiële website van PyTorch .
Voer de volgende opdracht uit om de versie van het NVIDIA CUDA-stuurprogramma te controleren die u op uw Debian 12-systeem hebt geïnstalleerd. Zoals u kunt zien, hebben we NVIDIA CUDA versie 11.8 geïnstalleerd op ons Debian 12-systeem.
$ NVCC --versie 
Om PyTorch met NVIDIA CUDA 11.8-ondersteuning op de PyTorch Python 3 virtuele omgeving te installeren, voert u de volgende opdracht uit:
$ sudo / kiezen / pytorch / bak / pip3 installeren fakkel fakkelvisie fakkelaudio --index-url https: // download.pytorch.org / whl / met 118Om PyTorch met NVIDIA CUDA 12.1-ondersteuning op de PyTorch Python 3 virtuele omgeving te installeren, voert u de volgende opdracht uit:
$ sudo / kiezen / pytorch / bak / pip3 installeren fakkel fakkelvisie fakkelaudioPyTorch wordt geïnstalleerd op de PyTorch Python 3 virtuele omgeving. Het duurt even voordat het klaar is.
Op dit punt zou PyTorch op de virtuele PyTorch Python 3-omgeving moeten worden geïnstalleerd
PyTorch Python 3 virtuele omgeving activeren
Om de PyTorch Python “/opt/pytorch” virtuele omgeving te activeren, voert u de volgende opdracht uit:
$ . / kiezen / pytorch / bak / activerenDe virtuele PyTorch Python 3-omgeving moet worden geactiveerd.
Toegang tot PyTorch en controleren of NVIDIA GPU/CUDA-versnelling beschikbaar is
Om de interactieve Python 3-shell te openen, voert u de volgende opdracht uit:
$ python3Python 3 interactieve shell moet worden geopend.
Importeer eerst PyTorch met de volgende coderegel:
$ fakkel importeren 
Voer de volgende regel code uit om te controleren welke versie van PyTorch u hebt geïnstalleerd. Zoals u kunt zien, gebruiken we PyTorch 2.1.0 met NVIDIA CUDA 11.8-versnellingsondersteuning (cu118).
$ fakkel.__versie__ 
Om te controleren of PyTorch uw NVIDIA GPU kan gebruiken voor NVIDIA CUDA-versnelling, kunt u ook de volgende coderegel uitvoeren. Als NVIDIA CUDA-ondersteuning beschikbaar is, wordt “True” afgedrukt.
$ fakkel.cuda.is_beschikbaar ( )Als er meerdere GPU's op uw computer zijn geïnstalleerd, kunt u het aantal GPU's dat PyTorch kan gebruiken controleren met de volgende coderegel. Zoals u kunt zien, hebben we de NVIDIA GPU (RTX 4070) geïnstalleerd op ons Debian 12-systeem.
$ fakkel.cuda.device_count ( )Om de interactieve Python-shell af te sluiten, voert u de volgende coderegel uit:
$ ontslag nemen ( )Conclusie
In dit artikel hebben we u laten zien hoe u Python 3 PIP en Python 3 virtuele omgeving (venv) op Debian 12 kunt installeren. We hebben u ook laten zien hoe u een Python 3 virtuele omgeving voor PyTorch op Debian 12 kunt maken en hoe u PyTorch met NVIDIA CUDA kunt installeren 11.8 en 12.1 versnellingsondersteuning ook op Debian 12. Ten slotte hebben we u laten zien hoe u de virtuele PyTorch Python-omgeving activeert en toegang krijgt tot PyTorch op Debian 12.