Obsługa GPU

Obsługa GPU TensorFlow wymaga szeregu sterowników i bibliotek. Aby uprościć instalację i uniknąć konfliktów bibliotek, zalecamy skorzystanie z obrazu Docker TensorFlow z obsługą GPU (tylko Linux). Ta konfiguracja wymaga jedynie sterowników NVIDIA® GPU.

Te instrukcje instalacji dotyczą najnowszego wydania TensorFlow. Zobacz przetestowane konfiguracje kompilacji dla wersji CUDA® i cuDNN do użycia ze starszymi wydaniami TensorFlow.

Pakiet pip

Zobacz przewodnik instalacji pip, aby uzyskać informacje o dostępnych pakietach, wymaganiach systemowych i instrukcjach. Pakiet TensorFlow pip zawiera obsługę GPU dla kart obsługujących technologięCUDA®:

pip install tensorflow

Ten przewodnik obejmuje obsługę GPU i kroki instalacji dla najnowszego stabilnego wydaniaTensorFlow.

Starsze wersje TensorFlow

Dla wydań 1.15 i starsze, pakiety CPU i GPU są oddzielne:

pip install tensorflow==1.15 # CPUpip install tensorflow-gpu==1.15 # GPU

Wymagania sprzętowe

Obsługiwane są następujące urządzenia z obsługą GPU:

• Karta graficzna NVIDIA® z architekturą CUDA® w wersjach 3.5, 5.0, 6.0, 7.0, 7.5, 8.0 i wyższych niż 8.0. Zobacz listę kart GPU obsługujących architekturę CUDA®.
• W przypadku układów GPU z nieobsługiwanymi architekturami CUDA® lub w celu uniknięcia kompilacji JIT z PTX, lub w celu użycia różnych wersji bibliotek NVIDIA®, zobacz przewodnik kompilacji systemu Linux ze źródła.
• Pakiety nie zawierają kodu PTX z wyjątkiem najnowszej obsługiwanej architektury CUDA®; dlatego TensorFlow nie ładuje się na starszych układach GPU, gdy ustawiona jest wartośćCUDA_FORCE_PTX_JIT=1. (Szczegółowe informacje znajdują się w częściApplicationCompatibility.)

Wymagania dotyczące oprogramowania

W Twoim systemie musi być zainstalowane następujące oprogramowanie NVIDIA®:

• Sterowniki GPU NVIDIA® -CUDA®11.0 wymaga wersji 450.x lub wyższej.
• Zestaw narzędzi CUDA® -TensorFlow obsługuje CUDA® 11 (TensorFlow >= 2.4.0)
• CUPTI dostarcza z CUDA®Toolkit.
• cuDNN SDK 8.0.4 wersje cuDNN).
• (Opcjonalnie)TensorRT 6.0 w celu poprawy opóźnienia i przepustowości wnioskowania w niektórych modelach.

Konfiguracja systemu Linux

Poniższe aptinstrukcje są najprostszym sposobem na zainstalowanie wymaganego oprogramowania NVIDIA na Ubuntu. Jeśli jednak budujesz TensorFlow ze źródła, ręcznie zainstaluj wymagania programowe wymienione powyżej i rozważ użycie obrazu-devel TensorFlow Docker jako bazy.

Zainstaluj CUPTI, który jest dostarczany z zestawem narzędzi CUDA® Toolkit. Dodaj jego katalog instalacyjny do zmiennej $LD_LIBRARY_PATHśrodowiskowej:

export LD_LIBRARY_PATH=$LD_LIBRARY_PATH:/usr/local/cuda/extras/CUPTI/lib64

Instaluj CUDA z apt

Ta sekcja pokazuje, jak zainstalować CUDA® 11 (TensorFlow >= 2.4.0) na Ubuntu16.04 i 18.04. Te instrukcje mogą działać na innych dystrybucjach opartych na Debianie.

Ubuntu 18.04 (CUDA 11.0)

# Add NVIDIA package repositories# Install NVIDIA driver# Reboot. Check that GPUs are visible using the command: nvidia-smi# Install development and runtime libraries (~4GB)# Install TensorRT. Requires that libcudnn8 is installed above.

Ubuntu 16.04 (CUDA 11.0)

# Add NVIDIA package repositories# Add HTTPS support for apt-key# Install NVIDIA driver# Issue with driver install requires creating /usr/lib/nvidia# Reboot. Check that GPUs are visible using the command: nvidia-smi# Install development and runtime libraries (~4GB)# Install TensorRT. Requires that libcudnn7 is installed above.

Konfiguracja Windows

Zobacz wymagania sprzętowe i programowe wymienione powyżej. Przeczytaj przewodnik instalacji oprogramowania CUDA® dla systemu Windows.

Upewnij się, że zainstalowane pakiety oprogramowania NVIDIA są zgodne z wersjami wymienionymi powyżej. W szczególności, TensorFlow nie zostanie załadowany bez pliku cuDNN64_8.dll. Aby użyć innej wersji, zobacz poradnik Windows build from source.

Dodaj katalogi instalacyjne CUDA®, CUPTI i cuDNN do %PATH%zmiennej środowiskowej. Jeśli na przykład zestaw narzędzi CUDA® Toolkit jest zainstalowany w kataloguC:\Program Files\NVIDIA GPU Computing Toolkit\CUDA\v11.0, a cuDNN w kataloguC:\tools\cuda, zaktualizuj %PATH%, aby pasowało:

SET PATH=C:\Program Files\NVIDIA GPU Computing Toolkit\CUDA\v11.0\bin;%PATH%SET PATH=C:\Program Files\NVIDIA GPU Computing Toolkit\CUDA\v11.0\extras\CUPTI\lib64;%PATH%SET PATH=C:\Program Files\NVIDIA GPU Computing Toolkit\CUDA\v11.0\include;%PATH%SET PATH=C:\tools\cuda\bin;%PATH%

.