GPU ondersteuning

TensorFlow GPU ondersteuning vereist een assortiment van drivers en bibliotheken. Om de installatie te vereenvoudigen en bibliotheekconflicten te vermijden, raden we aan eenTensorFlow Docker image met GPU ondersteuning te gebruiken (alleen Linux). Deze setup vereist alleen de NVIDIA® GPU drivers.

Deze installatie-instructies zijn voor de laatste release van TensorFlow. Zie de geteste build configuraties voor CUDA® en cuDNN versies voor gebruik met oudere TensorFlow versies.

Pip pakket

Zie de pip installatie gids voor beschikbare pakketten, systeemeisen, en instructies. Het TensorFlow pip pakket bevat GPU ondersteuning voorCUDA®-compatibele kaarten:

pip install tensorflow

Deze gids behandelt GPU ondersteuning en installatie stappen voor de laatste stabieleTensorFlow release.

Lagere versies van TensorFlow

Voor releases 1.15 en ouder, CPU- en GPU-pakketten zijn gescheiden:

pip install tensorflow==1.15 # CPUpip install tensorflow-gpu==1.15 # GPU

Hardwarevereisten

De volgende apparaten met GPU-ondersteuning worden ondersteund:

• NVIDIA® GPU-kaart met CUDA®-architecturen 3.5, 5.0, 6.0, 7.0, 7.5, 8.0 en hoger dan 8.0. Zie de lijst vanCUDA®-enabledGPU-kaarten.
• Voor GPU’s met niet-ondersteunde CUDA®-architecturen, of om JIT-compilatie vanuit PTX te vermijden, of om verschillende versies van de NVIDIA®-bibliotheken te gebruiken, zie deLinux-bouw vanaf broncode gids.
• Pakketten bevatten geen PTX-code, behalve voor de laatste ondersteunde CUDA®-architectuur; daarom laadt TensorFlow niet op oudere GPU’s wanneerCUDA_FORCE_PTX_JIT=1 is ingesteld. (ZieApplicationCompatibility voor meer informatie.)

Softwarevereisten

De volgende NVIDIA®-software moet op uw systeem zijn geïnstalleerd:

• NVIDIA® GPU-stuurprogramma’s -CUDA®11.0 vereist 450.x of hoger.
• CUDA® Toolkit -TensorFlow ondersteunt CUDA® 11 (TensorFlow >= 2.4.0)
• CUPTI wordt geleverd met de CUDA®Toolkit.
• cuDNN SDK 8.0.4 cuDNN versies).
• (Optioneel)TensorRT 6.0 om de latency en throughput voor inferentie op sommige modellen te verbeteren.

Linux installatie

De apt instructies hieronder zijn de gemakkelijkste manier om de benodigde NVIDIAsoftware op Ubuntu te installeren. Echter, als TensorFlow vanaf broncode wordt gebouwd, installeer dan handmatig de bovenstaande softwarevereisten, en overweeg om een-devel TensorFlow Docker image als basis te gebruiken.

Installeer CUPTI dat met de CUDA® Toolkit wordt meegeleverd. Voeg de installatiedirectory toe aan de $LD_LIBRARY_PATH omgevingsvariabele:

export LD_LIBRARY_PATH=$LD_LIBRARY_PATH:/usr/local/cuda/extras/CUPTI/lib64

Installeer CUDA met apt

Deze sectie laat zien hoe CUDA® 11 (TensorFlow >= 2.4.0) geïnstalleerd moet worden op Ubuntu16.04 en 18.04. Deze instructies werken mogelijk ook voor andere op Debian gebaseerde distro’s.

Ubuntu 18.04 (CUDA 11.0)

# Add NVIDIA package repositories# Install NVIDIA driver# Reboot. Check that GPUs are visible using the command: nvidia-smi# Install development and runtime libraries (~4GB)# Install TensorRT. Requires that libcudnn8 is installed above.

Ubuntu 16.04 (CUDA 11.0)

# Add NVIDIA package repositories# Add HTTPS support for apt-key# Install NVIDIA driver# Issue with driver install requires creating /usr/lib/nvidia# Reboot. Check that GPUs are visible using the command: nvidia-smi# Install development and runtime libraries (~4GB)# Install TensorRT. Requires that libcudnn7 is installed above.

Windows setup

Zie de hardware- en softwarevereisten hierboven vermeld. Lees deCUDA® -installatiehandleiding voor Windows.

Zorg ervoor dat de geïnstalleerde NVIDIA-softwarepakketten overeenkomen met de hierboven vermelde versies. In het bijzonder, zal TensorFlow niet laden zonder het cuDNN64_8.dll bestand. Om een andere versie te gebruiken, zie de Windows build from source gids.

Voeg de CUDA®, CUPTI, en cuDNN installatie directories toe aan de %PATH% omgevingsvariabele. Bijvoorbeeld, als de CUDA® Toolkit is geïnstalleerd opC:\Program Files\NVIDIA GPU Computing Toolkit\CUDA\v11.0 en cuDNN opC:\tools\cuda, pas dan uw %PATH% aan om overeen te komen:

SET PATH=C:\Program Files\NVIDIA GPU Computing Toolkit\CUDA\v11.0\bin;%PATH%SET PATH=C:\Program Files\NVIDIA GPU Computing Toolkit\CUDA\v11.0\extras\CUPTI\lib64;%PATH%SET PATH=C:\Program Files\NVIDIA GPU Computing Toolkit\CUDA\v11.0\include;%PATH%SET PATH=C:\tools\cuda\bin;%PATH%