Suporte a GPU TensorFlow requer um sortimento de drivers e bibliotecas. Tosimplifique a instalação e evite conflitos de bibliotecas, recomendamos o uso da imagem aTensorFlow Docker com suporte a GPU (somente Linux). Essa configuração requer apenas os drivers da GPU NVIDIA®.
Estas instruções de instalação são para a versão mais recente do TensorFlow. Veja as configurações de construção testadas para as versões CUDA® e cuDNN com versões anteriores do TensorFlow.
Pip package
Veja o guia de instalação do pip para os pacotes, requisitos de sistema e instruções disponíveis. O pacote TensorFlow pip inclui suporte a GPU para placas habilitadas paraCUDA®:
pip install tensorflowEste guia cobre o suporte a GPU e as etapas de instalação para a última versão estável do TensorFlow.
Versões mais antigas do TensorFlow
Para as versões 1.15 e mais antigas, os pacotes de CPU e GPU são separados:
pip install tensorflow==1.15 # CPUpip install tensorflow-gpu==1.15 # GPU
Requisitos de hardware
Os seguintes dispositivos habilitados para GPU são suportados:
- Placa GPU NVIDIA® com arquiteturas CUDA® 3.5, 5.0, 6.0, 7.0, 7.5, 8.0 e superiores à 8.0. Veja a lista de placasCUDA®-PGU habilitadas.
- Para GPUs com arquiteturas CUDA® não suportadas, ou para evitar a compilação JIT de PTX, ou para usar versões diferentes das bibliotecas NVIDIA®, veja o guia de compilação do Linux a partir do código-fonte.
- Os pacotes não contêm código PTX, exceto para a mais recente arquitetura CUDA® suportada; portanto, o TensorFlow falha em carregar em GPUs mais antigas quando
CUDA_FORCE_PTX_JIT=1está definido. (ConsulteApplicationCompatibility para obter detalhes.)
Requisitos de software
O seguinte software NVIDIA® deve ser instalado no seu sistema:
- Drivers de GPU NVIDIA® -CUDA®11.0 requer 450.x ou superior.
- Kit de ferramentas CUDA® -TensorFlow suporta CUDA® 11 (TensorFlow >= 2.4.0)
- CUPTI é enviado com o CUDA®Toolkit.
- cuDNN SDK 8.0.4 versões cuDNN).
- (Opcional)TensorRT 6.0 para melhorar a latência e o rendimento para inferência em alguns modelos.
Configuração do Linux
As instruções abaixo são a maneira mais fácil de instalar o software NVIDIA necessário no Ubuntu. No entanto, se construir o TensorFlow a partir do código fonte, instale manualmente os requisitos do software listados acima, e considere o uso de uma imagem TensorFlow Docker-devel TensorFlow como base.
Instale o CUPTI que é enviado com o CUDA® Toolkit. Anexe seu diretório de instalação à variável $LD_LIBRARY_PATHambiente:
export LD_LIBRARY_PATH=$LD_LIBRARY_PATH:/usr/local/cuda/extras/CUPTI/lib64Instale o CUDA com apt
Esta seção mostra como instalar o CUDA® 11 (TensorFlow >= 2.4.0) no Ubuntu16.04 e 18.04. Estas instruções podem funcionar para outras distros baseadas em Debian.
Ubuntu 18.04 (CUDA 11.0)
# Add NVIDIA package repositories# Install NVIDIA driver# Reboot. Check that GPUs are visible using the command: nvidia-smi# Install development and runtime libraries (~4GB)# Install TensorRT. Requires that libcudnn8 is installed above.
Ubuntu 16.04 (CUDA 11.0)
# Add NVIDIA package repositories# Add HTTPS support for apt-key# Install NVIDIA driver# Issue with driver install requires creating /usr/lib/nvidia# Reboot. Check that GPUs are visible using the command: nvidia-smi# Install development and runtime libraries (~4GB)# Install TensorRT. Requires that libcudnn7 is installed above.
Configuração do Windows
Veja os requisitos de hardware e software listados acima. Leia o guia de instalação daCUDA® para Windows.
Certifique-se de que os pacotes de software NVIDIA instalados correspondem às versões listadas acima. Inparticular, o TensorFlow não será carregado sem o arquivo cuDNN64_8.dll. Para usar a versão adiferente, consulte o guia de compilação do Windows a partir do código-fonte.
Adicionar os diretórios de instalação CUDA®, CUPTI e cuDNN à variável %PATH%ambiente. Por exemplo, se o CUDA® Toolkit estiver instalado paraC:\Program Files\NVIDIA GPU Computing Toolkit\CUDA\v11.0 e o cuDNN paraC:\tools\cuda, actualize o seu %PATH% para corresponder:
SET PATH=C:\Program Files\NVIDIA GPU Computing Toolkit\CUDA\v11.0\bin;%PATH%SET PATH=C:\Program Files\NVIDIA GPU Computing Toolkit\CUDA\v11.0\extras\CUPTI\lib64;%PATH%SET PATH=C:\Program Files\NVIDIA GPU Computing Toolkit\CUDA\v11.0\include;%PATH%SET PATH=C:\tools\cuda\bin;%PATH%