Support GPU

Le support GPU de TensorFlow nécessite un assortiment de pilotes et de bibliothèques. Pour simplifier l’installation et éviter les conflits de bibliothèques, nous recommandons d’utiliser une image Docker de TensorFlow avec support GPU (Linux uniquement). Cette configuration ne nécessite que les pilotes GPU NVIDIA®.

Ces instructions d’installation concernent la dernière version de TensorFlow. Consultez les configurations de construction testées pour les versions CUDA® et cuDNN à utiliser avec les versions plus anciennes de TensorFlow.

Paquet pip

Voir le guide d’installation pip pour les paquets disponibles, la configuration requise et les instructions. Le paquet TensorFlow pip inclut la prise en charge du GPU pour les cartes compatibles avecCUDA®:

pip install tensorflow

Ce guide couvre la prise en charge du GPU et les étapes d’installation pour la dernière version stable deTensorFlow.

Versions antérieures de TensorFlow

Pour les versions 1.15 et plus anciennes, les paquets CPU et GPU sont séparés :

pip install tensorflow==1.15 # CPUpip install tensorflow-gpu==1.15 # GPU

Configuration matérielle

Les périphériques GPU suivants sont pris en charge :

• Carte GPU NVIDIA® avec les architectures CUDA® 3.5, 5.0, 6.0, 7.0, 7.5, 8.0 et supérieures à 8.0. Consultez la liste des cartes GPU compatibles avec CUDA®.
• Pour les GPU avec des architectures CUDA® non prises en charge, ou pour éviter la compilation JIT à partir de PTX, ou pour utiliser différentes versions des bibliothèques NVIDIA®, consultez le guideLinux build from source.
• Les paquets ne contiennent pas de code PTX sauf pour la dernière architecture CUDA® prise en charge ; par conséquent, TensorFlow ne parvient pas à se charger sur les GPU plus anciens lorsqueCUDA_FORCE_PTX_JIT=1 est défini. (VoirApplicationCompatibilité pour plus de détails.)

Condition logicielle

Les logiciels NVIDIA® suivants doivent être installés sur votre système :

• Pilotes de GPU NVIDIA® -CUDA®11.0 nécessite 450.x ou plus.
• CUDA® Toolkit -TensorFlow prend en charge CUDA® 11 (TensorFlow >= 2.4.0)
• CUPTI est livré avec le CUDA®Toolkit.
• cuDNN SDK 8.0.4 versions cuDNN).
• (Facultatif)TensorRT 6.0 pour améliorer la latence et le débit pour l’inférence sur certains modèles.

Configuration Linux

Les aptinstructions ci-dessous sont la manière la plus simple d’installer le logiciel NVIDIA requis sur Ubuntu. Toutefois, si vous construisez TensorFlow à partir des sources,installez manuellement les logiciels requis énumérés ci-dessus et envisagez d’utiliser une-devel image Docker de TensorFlow comme base.

Installez CUPTI qui est livré avec le CUDA® Toolkit. Ajoutez son répertoire d’installation à la variable $LD_LIBRARY_PATHenvironnementale:

export LD_LIBRARY_PATH=$LD_LIBRARY_PATH:/usr/local/cuda/extras/CUPTI/lib64

Installer CUDA avec apt

Cette section montre comment installer CUDA® 11 (TensorFlow >= 2.4.0) sur Ubuntu16.04 et 18.04. Ces instructions peuvent fonctionner pour d’autres distros basées sur Debian.

Ubuntu 18.04 (CUDA 11.0)

# Add NVIDIA package repositories# Install NVIDIA driver# Reboot. Check that GPUs are visible using the command: nvidia-smi# Install development and runtime libraries (~4GB)# Install TensorRT. Requires that libcudnn8 is installed above.

Ubuntu 16.04 (CUDA 11.0)

# Add NVIDIA package repositories# Add HTTPS support for apt-key# Install NVIDIA driver# Issue with driver install requires creating /usr/lib/nvidia# Reboot. Check that GPUs are visible using the command: nvidia-smi# Install development and runtime libraries (~4GB)# Install TensorRT. Requires that libcudnn7 is installed above.

Configuration de Windows

Voir la configuration matérielle et la configuration logicielle requises indiquées ci-dessus. Lisez le guide d’installation deCUDA® pour Windows.

Vérifiez que les progiciels NVIDIA installés correspondent aux versions indiquées ci-dessus. En particulier, TensorFlow ne se chargera pas sans le fichier cuDNN64_8.dll. Pour utiliser une version différente, consultez le guide Windows build from source.

Ajoutez les répertoires d’installation CUDA®, CUPTI et cuDNN à la variable %PATH%environnementale. Par exemple, si la boîte à outils CUDA® est installée àC:\Program Files\NVIDIA GPU Computing Toolkit\CUDA\v11.0 et cuDNN àC:\tools\cuda, mettez à jour votre %PATH% pour qu’elle corresponde :

SET PATH=C:\Program Files\NVIDIA GPU Computing Toolkit\CUDA\v11.0\bin;%PATH%SET PATH=C:\Program Files\NVIDIA GPU Computing Toolkit\CUDA\v11.0\extras\CUPTI\lib64;%PATH%SET PATH=C:\Program Files\NVIDIA GPU Computing Toolkit\CUDA\v11.0\include;%PATH%SET PATH=C:\tools\cuda\bin;%PATH%

.