Suportul GPU TensorFlow necesită un sortiment de drivere și biblioteci. Pentru a simplifica instalarea și a evita conflictele de biblioteci, vă recomandăm să utilizați o imagine Docker TensorFlow cu suport GPU (numai pentru Linux). Această configurație necesită doar driverele NVIDIA® GPU.
Aceste instrucțiuni de instalare sunt pentru cea mai recentă versiune a TensorFlow. Consultați configurațiile de construcție testate pentru versiunile CUDA® și cuDNN pentru a le utiliza cu versiuni mai vechi ale TensorFlow.
Pachet pip
Vezi ghidul de instalare pip pentru pachetele disponibile, cerințele de sistem și instrucțiuni. Pachetul TensorFlow pip include suport pentru GPU pentru plăcile compatibileCUDA®:
pip install tensorflowAcest ghid acoperă suportul pentru GPU și pașii de instalare pentru cea mai recentă versiune stabilăTensorFlow.
Versiuni mai vechi de TensorFlow
Pentru versiunile 1.15 și mai vechi, pachetele CPU și GPU sunt separate:
pip install tensorflow==1.15 # CPUpip install tensorflow-gpu==1.15 # GPU
Condiții hardware
Sunt acceptate următoarele dispozitive compatibile cu GPU:
- Cardă GPU NVIDIA® cu arhitecturi CUDA® 3.5, 5.0, 6.0, 6.0, 7.0, 7.5, 8.0 șimai mare decât 8.0. Consultați lista plăcilorGPU compatibile CUDA®.
- Pentru GPU cu arhitecturi CUDA® nesuportate, sau pentru a evita compilarea JIT din PTX, sau pentru a utiliza versiuni diferite ale bibliotecilor NVIDIA®, consultați ghidulLinux build from source.
- Pachetele nu conțin cod PTX decât pentru cea mai recentă arhitectură CUDA® suportată; prin urmare, TensorFlow nu se încarcă pe GPU mai vechi atunci când
CUDA_FORCE_PTX_JIT=1este setat. (ConsultațiApplicationCompatibility pentru detalii.)
Requisite software
Pe sistemul dvs. trebuie să fie instalat următorul software NVIDIA®:
- Drivere NVIDIA® GPU -CUDA®11.0 necesită 450.x sau o versiune mai recentă.
- CUDA® Toolkit -TensorFlow suportă CUDA® 11 (TensorFlow >= 2.4.0)
- CUPTI este livrat cu CUDA®Toolkit.
- cuDNN SDK 8.0.4 versiuni cuDNN).
- (Opțional)TensorRT 6.0 pentru a îmbunătăți latența și randamentul pentru inferența pe unele modele.
Configurare Linux
Instrucțiunile apt de mai jos reprezintă cea mai simplă modalitate de a instala software-ul NVIDIA necesar pe Ubuntu. Cu toate acestea, dacă construiți TensorFlow de la sursă,instalați manual cerințele de software enumerate mai sus și luați în considerare utilizarea unei-devel imagini TensorFlow Docker ca bază.
Instalați CUPTI care se livrează cu kitul de instrumente CUDA®. Adăugați directorul său de instalare la variabila de mediu $LD_LIBRARY_PATH:
export LD_LIBRARY_PATH=$LD_LIBRARY_PATH:/usr/local/cuda/extras/CUPTI/lib64Instalați CUDA cu apt
Această secțiune arată cum se instalează CUDA® 11 (TensorFlow >= 2.4.0) pe Ubuntu16.04 și 18.04. Aceste instrucțiuni pot funcționa și pentru alte distribuții bazate pe Debian.
Ubuntu 18.04 (CUDA 11.0)
# Add NVIDIA package repositories# Install NVIDIA driver# Reboot. Check that GPUs are visible using the command: nvidia-smi# Install development and runtime libraries (~4GB)# Install TensorRT. Requires that libcudnn8 is installed above.
Ubuntu 16.04 (CUDA 11.0)
# Add NVIDIA package repositories# Add HTTPS support for apt-key# Install NVIDIA driver# Issue with driver install requires creating /usr/lib/nvidia# Reboot. Check that GPUs are visible using the command: nvidia-smi# Install development and runtime libraries (~4GB)# Install TensorRT. Requires that libcudnn7 is installed above.
Configurare Windows
Vezi cerințele hardware și cerințele software enumerate mai sus. Citiți ghidul de instalareCUDA® pentru Windows.
Asigurați-vă că pachetele software NVIDIA instalate corespund versiunilor enumerate mai sus. Înparticular, TensorFlow nu se va încărca fără fișierul cuDNN64_8.dll. Pentru a utiliza o versiune diferită, consultați ghidul Windows build from source.
Adaugați directoarele de instalare CUDA®, CUPTI și cuDNN la variabila de mediu %PATH%environmental variable. De exemplu, dacă setul de instrumente CUDA® este instalat laC:\Program Files\NVIDIA GPU Computing Toolkit\CUDA\v11.0 și cuDNN laC:\tools\cuda, actualizați-vă %PATH% pentru a corespunde:
SET PATH=C:\Program Files\NVIDIA GPU Computing Toolkit\CUDA\v11.0\bin;%PATH%SET PATH=C:\Program Files\NVIDIA GPU Computing Toolkit\CUDA\v11.0\extras\CUPTI\lib64;%PATH%SET PATH=C:\Program Files\NVIDIA GPU Computing Toolkit\CUDA\v11.0\include;%PATH%SET PATH=C:\tools\cuda\bin;%PATH%
.