Hoe TensorFlow te installeren met NVIDIA CUDA/cuDNN-versnelling op Debian 12

Hoe Tensorflow Te Installeren Met Nvidia Cuda Cudnn Versnelling Op Debian 12



TensorFlow is een Python-bibliotheek voor kunstmatige intelligentie en machine learning. TensorFlow kan worden gebruikt om nieuwe AI-modellen te trainen en te creëren, bestaande AI-modellen te importeren, de testgegevens te laden en de prestaties van AI-modellen te controleren, de getrainde AI-modellen op te slaan, enzovoort.

TensorFlow kan CPU en GPU gebruiken om de complexe berekeningen op het gebied van kunstmatige intelligentie (AI) en Machine Learning (ML) uit te voeren. TensorFlow kan elke door CUDA ondersteunde NVIDIA GPU gebruiken om de AI/ML-programma's te versnellen. Als u geen door CUDA ondersteunde GPU heeft, gebruikt TensorFlow de CPU voor AI/ML-codes. Zonder GPU-versnelling zullen de prestaties van TensorFlow afnemen in complexe AI/ML-programma's.

In dit artikel laten we u zien hoe u TensorFlow installeert met NVIDIA CUDA/cuDNN-versnelling op Debian 12 “Bookworm”.







Onderwerp van inhoud:

  1. Controleren of NVIDIA GPU op uw computer is geïnstalleerd
  2. Python 3 PIP en Python Venv installeren op Debian 12
  3. Een virtuele Python 3-omgeving creëren voor TensorFlow
  4. Upgraden van Python 3 PIP in de virtuele Python 3-omgeving
  5. TensorFlow installeren met NVIDIA CUDA-versnellingsondersteuning
  6. TensorRT installeren op Debian 12
  7. TensorFlow Python 3 virtuele omgeving activeren
  8. Toegang krijgen tot TensorFlow en controleren of NVIDIA GPU/CUDA-versnelling beschikbaar is
  9. Conclusie

Controleren of NVIDIA GPU op uw computer is geïnstalleerd

Om TensorFlow de AI-programma's met NVIDIA GPU/CUDA te laten versnellen, moet u beschikken over de NVIDIA GPU-stuurprogramma's En NVIDIA CUDA en cuDNN geïnstalleerd op uw Debian 12-besturingssysteem.



Als u hulp nodig heeft bij het installeren van de NVIDIA GPU-stuurprogramma's op uw Debian 12-besturingssysteem, lees dit artikel .



Als u hulp nodig heeft bij het installeren van de NVIDIA CUDA- en cuDNN-stuurprogramma's op uw Debian 12-besturingssysteem, lees dit artikel .





Zodra u de NVIDIA GPU-stuurprogramma's op uw Debian 12-systeem hebt geïnstalleerd, zou de opdracht 'nvidia-smi' beschikbaar moeten zijn.

  Een screenshot van een computer Beschrijving automatisch gegenereerd



De NVIDIA-kernelmodules moeten ook op uw Debian 12-systeem worden geladen.

  Een screenshot van een computer Beschrijving automatisch gegenereerd

Zodra u de NVIDIA CUDA-stuurprogramma's hebt geïnstalleerd, zou de opdracht “nvcc” beschikbaar moeten zijn op uw Debian 12-systeem.

  Een screenshot van een computer Beschrijving automatisch gegenereerd

Python 3 PIP en Python Venv installeren op Debian 12

Om TensorFlow op Debian 12 te installeren, moet de Python 3 PIP- en Python Virtual Environment (venv)-module geïnstalleerd zijn.

Werk eerst de cache van de APT-pakketrepository bij met de volgende opdracht:

$ sudo passende update

  Een screenshot van een computerprogramma Beschrijving automatisch gegenereerd

Om Python 3 PIP en Python 3 virtuele omgeving (venv) te installeren, voert u de volgende opdracht uit:

$ sudo geschikt installeren python3-pip python3-venv python3-dev

Om de installatie te bevestigen, drukt u op “Y” en vervolgens op .

  Een screenshot van een computer Beschrijving automatisch gegenereerd

Python 3 PIP en Python 3 venv worden geïnstalleerd. Het duurt even voordat het klaar is.

  Een screenshot van een computer Beschrijving automatisch gegenereerd

Op dit punt moeten Python 3 PIP en Python 3 venv worden geïnstalleerd.

  Een screenshot van een computerprogramma Beschrijving automatisch gegenereerd

Een virtuele Python 3-omgeving creëren voor TensorFlow

De standaardpraktijk voor het installeren van de Python-bibliotheken op Debian 12 is het installeren ervan in een virtuele Python-omgeving, zodat ze de Python-pakketten/-bibliotheken van het systeem niet hinderen.

Om een ​​nieuwe virtuele Python 3-omgeving voor TensorFlow te maken in de map '/opt/tensorflow', voert u de volgende opdracht uit:

$ sudo python3 -M venv / kiezen / tensorstroom

Upgraden van Python 3 PIP in de virtuele Python 3-omgeving

Om Python 3 PIP te upgraden naar de nieuwste versie van de virtuele Python 3-omgeving “/opt/tensorflow”, voert u de volgende opdracht uit:

$ sudo / kiezen / tensorstroom / bak / Pip installeren --upgrade Pip

  Een screenshot van een computer Beschrijving automatisch gegenereerd

TensorFlow installeren met NVIDIA CUDA-versnellingsondersteuning

Om TensorFlow met NVIDIA CUDA-versnellingsondersteuning te installeren in de virtuele Python “/opt/tensorflow”-omgeving, voert u de volgende opdracht uit:

$ sudo / kiezen / tensorstroom / bak / Pip installeren tensorstroom [ en-cuda ]

TensorFlow met NVIDIA CUDA-versnelling wordt geïnstalleerd. Het duurt even voordat het klaar is.

  Een screenshot van een computer Beschrijving automatisch gegenereerd

Op dit punt moet TensorFlow met NVIDIA CUDA-versnellingsondersteuning worden geïnstalleerd.

  Een screenshot van een computer Beschrijving automatisch gegenereerd

TensorRT installeren op Debian 12

NVIDIA TensorRT optimaliseert de prestaties van TensorFlow deep learning nog meer. U kunt TensorRT op de virtuele omgeving TensorFlow Python “/opt/tensorflow” installeren met de volgende opdracht:

$ sudo / kiezen / tensorstroom / bak / Pip installeren tensorrt

NVIDIA TensorRT wordt geïnstalleerd in de virtuele Python-omgeving. Het duurt even voordat het klaar is.

  Een screenshot van een computer Beschrijving automatisch gegenereerd

Op dit punt zou NVIDIA TensorRT moeten worden geïnstalleerd.

  Een screenshot van een computer Beschrijving automatisch gegenereerd

TensorFlow Python 3 virtuele omgeving activeren

Om de virtuele omgeving TensorFlow Python “/opt/tensorflow” te activeren, voert u de volgende opdracht uit:

$ . / kiezen / tensorstroom / bak / activeren

De virtuele TensorFlow Python 3-omgeving moet worden geactiveerd.

  Een screenshot van een computer Beschrijving automatisch gegenereerd

Toegang krijgen tot TensorFlow en controleren of NVIDIA GPU/CUDA-versnelling beschikbaar is

Om de interactieve Python 3-shell te openen, voert u de volgende opdracht uit:

$ python3

Python 3 interactieve shell moet worden geopend.

  Een screenshot van een computer Beschrijving automatisch gegenereerd

Importeer eerst TensorFlow met de volgende coderegel:

$ tensorstroom importeren als tf

Nadat TensorFlow is geïmporteerd, kunt u het versienummer van TensorFlow dat u hebt geïnstalleerd controleren met de volgende regel code. Zoals u kunt zien, hebben we TensorFlow 2.13.1 geïnstalleerd op ons Debian 12-systeem.

$ tf.__versie__

Voer de volgende coderegel uit om te controleren of TensorFlow de NVIDIA GPU die u op uw computer hebt geïnstalleerd, kunt gebruiken voor CUDA-versnelling. Zoals u kunt zien, is onze NVIDIA GPU toegankelijk via TensorFlow.

$ afdrukken ( tf.config.list_fysieke_apparaten ( 'GPU' ) )

  Een screenshot van een computer Beschrijving automatisch gegenereerd

Om de interactieve Python-shell af te sluiten, voert u de volgende coderegel uit:

$ ontslag nemen ( )

Conclusie

In dit artikel hebben we u laten zien hoe u de virtuele Python 3 PIP- en Python 3-omgeving (venv) op Debian 12 kunt installeren. We hebben u ook laten zien hoe u een virtuele Python 3-omgeving voor TensorFlow op Debian 12 kunt maken en hoe u TensorFlow met NVIDIA kunt installeren GPU/CUDA-versnellingsondersteuning en NVIDIA TensorRT ook op Debian 12. Ten slotte hebben we u laten zien hoe u de virtuele TensorFlow Python-omgeving activeert en toegang krijgt tot TensorFlow op Debian 12.