GPU-stöd

TensorFlow GPU-stöd kräver ett antal drivrutiner och bibliotek. För att förenkla installationen och undvika bibliotekskonflikter rekommenderar vi att du använder en TensorFlow Docker-avbildning med GPU-stöd (endast Linux). Den här installationen kräver endast NVIDIA® GPU-drivrutiner.

Dessa installationsinstruktioner gäller den senaste versionen av TensorFlow. Se de testade byggkonfigurationerna för CUDA®- och cuDNN-versioner som kan användas med äldre TensorFlow-versioner.

Pip-paket

Se pip-installationsguiden för tillgängliga paket, systemkrav och instruktioner. TensorFlow pip-paketet innehåller GPU-stöd förCUDA®-aktiverade kort:

pip install tensorflow

Denna guide täcker GPU-stöd och installationssteg för den senaste stabilaTensorFlow-versionen.

Äldre versioner av TensorFlow

För versioner 1.15 och äldre är CPU- och GPU-paket separata:

pip install tensorflow==1.15 # CPUpip install tensorflow-gpu==1.15 # GPU

Hårdvarukrav

Följande GPU-aktiverade enheter stöds:

• NVIDIA® GPU-kort med CUDA®-arkitekturerna 3.5, 5.0, 6.0, 7.0, 7.5, 8.0 ochhögre än 8.0. Se listan över CUDA®-aktiverade GPU-kort.
• För GPU:er med CUDA®-arkitekturer som inte stöds, eller för att undvika JIT-kompilering från PTX, eller för att använda olika versioner av NVIDIA®-biblioteken, se guidenLinux build from source.
• Paketen innehåller inte PTX-kod utom för den senaste CUDA®-arkitekturen som stöds; därför misslyckas TensorFlow med att laddas på äldre GPU:er närCUDA_FORCE_PTX_JIT=1 är inställt. (SeApplicationCompatibility för mer information.)

Mjukvarukrav

Följande NVIDIA®-mjukvara måste vara installerad på ditt system:

• NVIDIA® GPU-drivrutiner -CUDA®11.0 kräver 450.x eller högre.
• CUDA® Toolkit -TensorFlow stödjer CUDA® 11 (TensorFlow >= 2.4.0)
• CUPTI levereras med CUDA®Toolkit.
• cuDNN SDK 8.0.4 cuDNN-versioner).
• (Valfritt)TensorRT 6.0 för att förbättra latenstid och genomströmning för inferens på vissa modeller.

Linux setup

De aptinstruktioner som anges nedan är det enklaste sättet att installera de nödvändiga NVIDIAprogrammen på Ubuntu. Om du bygger TensorFlow från källkod, installera dock manuellt de programvarukrav som anges ovan, och överväg att använda en-devel TensorFlow Docker-avbildning som bas.

Installera CUPTI som levereras med CUDA® Toolkit. Lägg till dess installationskatalog till $LD_LIBRARY_PATHmiljövariabeln:

export LD_LIBRARY_PATH=$LD_LIBRARY_PATH:/usr/local/cuda/extras/CUPTI/lib64

Installera CUDA med apt

Detta avsnitt visar hur man installerar CUDA® 11 (TensorFlow >= 2.4.0) på Ubuntu16.04 och 18.04. Dessa instruktioner kan fungera för andra Debianbaserade distributioner.

Ubuntu 18.04 (CUDA 11.0)

# Add NVIDIA package repositories# Install NVIDIA driver# Reboot. Check that GPUs are visible using the command: nvidia-smi# Install development and runtime libraries (~4GB)# Install TensorRT. Requires that libcudnn8 is installed above.

Ubuntu 16.04 (CUDA 11.0)

# Add NVIDIA package repositories# Add HTTPS support for apt-key# Install NVIDIA driver# Issue with driver install requires creating /usr/lib/nvidia# Reboot. Check that GPUs are visible using the command: nvidia-smi# Install development and runtime libraries (~4GB)# Install TensorRT. Requires that libcudnn7 is installed above.

Installation av Windows

Se maskinvarukraven ochprogramvarukraven som anges ovan. Läs installationsguiden förCUDA® för Windows.

Se till att de installerade NVIDIA-programvarupaketen matchar de versioner som anges ovan. I synnerhet kommer TensorFlow inte att laddas utan cuDNN64_8.dll-filen. Om du vill använda en annan version, se guiden Windows build from source.

Lägg till installationsförteckningarna för CUDA®, CUPTI och cuDNN till %PATH%omgivningsvariabeln. Om till exempel CUDA® Toolkit installeras påC:\Program Files\NVIDIA GPU Computing Toolkit\CUDA\v11.0 och cuDNN påC:\tools\cuda, uppdaterar du %PATH% så att det stämmer:

SET PATH=C:\Program Files\NVIDIA GPU Computing Toolkit\CUDA\v11.0\bin;%PATH%SET PATH=C:\Program Files\NVIDIA GPU Computing Toolkit\CUDA\v11.0\extras\CUPTI\lib64;%PATH%SET PATH=C:\Program Files\NVIDIA GPU Computing Toolkit\CUDA\v11.0\include;%PATH%SET PATH=C:\tools\cuda\bin;%PATH%