GPU-understøttelse

TensorFlow GPU-understøttelse kræver et udvalg af drivere og biblioteker. For at forenkle installationen og undgå bibliotekskonflikter anbefaler vi, at du bruger etTensorFlow Docker-aftryk med GPU-understøttelse (kun Linux). Denne opsætning kræver kun NVIDIA® GPU-drivere.

Denne installationsvejledning gælder for den seneste version af TensorFlow. Se de testede opbygningskonfigurationer for CUDA®- og cuDNN-versioner til brug med ældre TensorFlow-udgaver.

Pip-pakke

Se pip-installationsvejledningen for tilgængelige pakker, systemkrav og instruktioner. TensorFlow pip-pakken indeholder GPU-understøttelse forCUDA®-aktiverede kort:

pip install tensorflow

Denne vejledning dækker GPU-understøttelse og installationstrin for den seneste stabileTensorFlow-udgave.

Ældre versioner af TensorFlow

For releases 1.15 og ældre, er CPU- og GPU-pakker separate:

pip install tensorflow==1.15 # CPUpip install tensorflow-gpu==1.15 # GPU

Hardwarekrav

Følgende GPU-aktiverede enheder understøttes:

• NVIDIA® GPU-kort med CUDA®-arkitekturer 3.5, 5.0, 6.0, 7.0, 7.5, 8.0 oghøjere end 8.0. Se listen overCUDA®-aktiveredeGPU-kort.
• For GPU’er med CUDA®-arkitekturer, der ikke understøttes, eller for at undgå JIT-kompilering fra PTX, eller for at bruge forskellige versioner af NVIDIA®-bibliotekerne, se vejledningenLinux build from source.
• Pakkerne indeholder ikke PTX-kode undtagen for den senest understøttede CUDA®-arkitektur; derfor kan TensorFlow ikke indlæses på ældre GPU’er, nårCUDA_FORCE_PTX_JIT=1 er indstillet. (SeApplicationCompatibility for yderligere oplysninger.)

Softwareforudsætninger

Følgende NVIDIA®-software skal være installeret på dit system:

• NVIDIA® GPU-drivere -CUDA®11.0 kræver 450.x eller højere.
• CUDA®-værktøjssæt -TensorFlow understøtter CUDA® 11 (TensorFlow >= 2.4.0)
• CUPTI leveres med CUDA®Toolkit.
• cuDNN SDK 8.0.4 cuDNN-versioner).
• (Valgfrit)TensorRT 6.0 for at forbedre latenstid og gennemløb for inferens på nogle modeller.

Linux-opsætning

Den apt nedenstående vejledning er den nemmeste måde at installere den nødvendige NVIDIAsoftware på Ubuntu. Hvis du bygger TensorFlow fra kildekode, skal du dog manuelt installere de ovenfor anførte softwarekrav og overveje at bruge et-devel TensorFlow Docker-aftryk som base.

Installer CUPTI, som leveres med CUDA® Toolkit. Tilføj dens installationsmappe til $LD_LIBRARY_PATHmiljøvariablen:

export LD_LIBRARY_PATH=$LD_LIBRARY_PATH:/usr/local/cuda/extras/CUPTI/lib64

Installer CUDA med apt

Dette afsnit viser, hvordan man installerer CUDA® 11 (TensorFlow >= 2.4.0) på Ubuntu16.04 og 18.04. Disse instruktioner kan fungere for andre Debian-baserede distributioner.

Ubuntu 18.04 (CUDA 11.0)

# Add NVIDIA package repositories# Install NVIDIA driver# Reboot. Check that GPUs are visible using the command: nvidia-smi# Install development and runtime libraries (~4GB)# Install TensorRT. Requires that libcudnn8 is installed above.

Ubuntu 16.04 (CUDA 11.0)

# Add NVIDIA package repositories# Add HTTPS support for apt-key# Install NVIDIA driver# Issue with driver install requires creating /usr/lib/nvidia# Reboot. Check that GPUs are visible using the command: nvidia-smi# Install development and runtime libraries (~4GB)# Install TensorRT. Requires that libcudnn7 is installed above.

Windows-opsætning

Se de ovenfor anførte hardware- og softwareforudsætninger. LæsCUDA®-installationsvejledningen til Windows.

Sørg for, at de installerede NVIDIA-softwarepakker passer til de versioner, der er anført ovenfor. Især vil TensorFlow ikke blive indlæst uden cuDNN64_8.dll-filen. Hvis du vil bruge en anden version, skal du se vejledningen til Windows build from source.

Føj CUDA®-, CUPTI- og cuDNN-installationskatalogerne til %PATH%omgivelsesvariablen. Hvis CUDA®-værktøjssættet f.eks. er installeret påC:\Program Files\NVIDIA GPU Computing Toolkit\CUDA\v11.0 og cuDNN påC:\tools\cuda, skal du opdatere din %PATH%, så den svarer til:

SET PATH=C:\Program Files\NVIDIA GPU Computing Toolkit\CUDA\v11.0\bin;%PATH%SET PATH=C:\Program Files\NVIDIA GPU Computing Toolkit\CUDA\v11.0\extras\CUPTI\lib64;%PATH%SET PATH=C:\Program Files\NVIDIA GPU Computing Toolkit\CUDA\v11.0\include;%PATH%SET PATH=C:\tools\cuda\bin;%PATH%