Il supporto GPU di TensorFlow richiede un assortimento di driver e librerie. Per semplificare l’installazione ed evitare conflitti di librerie, si consiglia di utilizzare un’immagine Docker di TensorFlow con supporto GPU (solo Linux). Questa configurazione richiede solo i driver NVIDIA® GPU.
Queste istruzioni di installazione sono per l’ultima versione di TensorFlow. Vedere le configurazioni di build testate per le versioni CUDA® e cuDNN da usare con le versioni precedenti di TensorFlow.
Pacchetto pip
Vedere la guida all’installazione di pip per i pacchetti disponibili, i requisiti di sistema e le istruzioni. Il pacchetto TensorFlow pip include il supporto GPU per le schede abilitate CUDA®:
pip install tensorflowQuesta guida copre il supporto GPU e i passi di installazione per l’ultima release stabile di TensorFlow.
Versioni precedenti di TensorFlow
Per le release 1.15 e precedenti, i pacchetti CPU e GPU sono separati:
pip install tensorflow==1.15 # CPUpip install tensorflow-gpu==1.15 # GPU
Requisiti hardware
Sono supportati i seguenti dispositivi abilitati alla GPU:
- Scheda GPU NVIDIA® con architetture CUDA® 3.5, 5.0, 6.0, 7.0, 7.5, 8.0 e superiori a 8.0. Vedere l’elenco delle schede GPU compatibili con CUDA®.
- Per le GPU con architetture CUDA® non supportate, o per evitare la compilazione JIT da PTX, o per usare versioni diverse delle librerie NVIDIA®, vedere la guida alla compilazione di Linux dai sorgenti.
- I pacchetti non contengono codice PTX tranne che per l’ultima architettura CUDA® supportata; pertanto, TensorFlow non riesce a caricarsi su GPU più vecchie quando
CUDA_FORCE_PTX_JIT=1è impostato. (VedereApplicationCompatibility per i dettagli.)
Requisiti software
Il seguente software NVIDIA® deve essere installato sul sistema:
- Driver GPU NVIDIA® -CUDA®11.0 richiede 450.x o superiore.
- CUDA® Toolkit -TensorFlow supporta CUDA® 11 (TensorFlow >= 2.4.0)
- CUPTI viene spedito con CUDA®Toolkit.
- cuDNN SDK 8.0.4 versioni di cuDNN).
- (Opzionale)TensorRT 6.0 per migliorare la latenza e il throughput dell’inferenza su alcuni modelli.
Impostazione Linux
Le aptistruzioni seguenti sono il modo più semplice per installare il software NVIDIA richiesto su Ubuntu. Tuttavia, se si costruisce TensorFlow dal sorgente, installare manualmente i requisiti software elencati sopra, e considerare l’utilizzo di un’immagine Docker di TensorFlow come base.
Installare CUPTI che viene fornito con CUDA® Toolkit. Aggiungi la sua directory di installazione alla variabile $LD_LIBRARY_PATHambientale:
export LD_LIBRARY_PATH=$LD_LIBRARY_PATH:/usr/local/cuda/extras/CUPTI/lib64Installa CUDA con apt
Questa sezione mostra come installare CUDA® 11 (TensorFlow >= 2.4.0) su Ubuntu16.04 e 18.04. Queste istruzioni potrebbero funzionare per altre distro basate su Debian.
Ubuntu 18.04 (CUDA 11.0)
# Add NVIDIA package repositories# Install NVIDIA driver# Reboot. Check that GPUs are visible using the command: nvidia-smi# Install development and runtime libraries (~4GB)# Install TensorRT. Requires that libcudnn8 is installed above.
Ubuntu 16.04 (CUDA 11.0)
# Add NVIDIA package repositories# Add HTTPS support for apt-key# Install NVIDIA driver# Issue with driver install requires creating /usr/lib/nvidia# Reboot. Check that GPUs are visible using the command: nvidia-smi# Install development and runtime libraries (~4GB)# Install TensorRT. Requires that libcudnn7 is installed above.
Configurazione di Windows
Vedi i requisiti hardware e software elencati sopra. Leggere la guida all’installazione di CUDA® per Windows.
Assicurarsi che i pacchetti software NVIDIA installati corrispondano alle versioni elencate sopra. In particolare, TensorFlow non verrà caricato senza il file cuDNN64_8.dll. Per utilizzare una versione diversa, vedere la guida alla compilazione di Windows dai sorgenti.
Aggiungi le directory di installazione di CUDA®, CUPTI e cuDNN alla variabile %PATH%ambientale. Per esempio, se CUDA® Toolkit è installato inC:\Program Files\NVIDIA GPU Computing Toolkit\CUDA\v11.0 e cuDNN inC:\tools\cuda, aggiorna il tuo %PATH% per farlo corrispondere:
SET PATH=C:\Program Files\NVIDIA GPU Computing Toolkit\CUDA\v11.0\bin;%PATH%SET PATH=C:\Program Files\NVIDIA GPU Computing Toolkit\CUDA\v11.0\extras\CUPTI\lib64;%PATH%SET PATH=C:\Program Files\NVIDIA GPU Computing Toolkit\CUDA\v11.0\include;%PATH%SET PATH=C:\tools\cuda\bin;%PATH%