Podpora GPU pro TensorFlow vyžaduje řadu ovladačů a knihoven. Pro zjednodušení instalace a zamezení konfliktů knihoven doporučujeme použít obrazTensorFlow Docker s podporou GPU (pouze pro Linux). Tato instalace vyžaduje pouze ovladače NVIDIA® GPU.
Tyto pokyny k instalaci se týkají nejnovějšího vydání TensorFlow. Viz testované konfigurace sestavení pro verze CUDA® a cuDNN, které lze použít se staršími vydáními TensorFlow.
Balíček pip
Dostupné balíčky, systémové požadavky a pokyny naleznete v průvodci instalací pip. Balíček TensorFlow pipobsahuje podporu GPU pro karty s podporouCUDA®:
pip install tensorflowTento průvodce se zabývá podporou GPU a instalačními kroky pro nejnovější stabilní vydáníTensorFlow.
Starší verze TensorFlow
Pro vydání 1.15 a starší jsou balíčky pro CPU a GPU oddělené:
pip install tensorflow==1.15 # CPUpip install tensorflow-gpu==1.15 # GPU
Požadavky na hardware
Podporována jsou následující zařízení s podporou GPU:
- NVIDIA® GPU karta s architekturou CUDA® 3.5, 5.0, 6.0, 7.0, 7.5, 8.0 a vyšší než 8.0. Viz seznam karet GPU s podporou CUDA®.
- Pro GPU s nepodporovanými architekturami CUDA® nebo pro zamezení kompilace JITz PTX nebo pro použití různých verzí knihoven NVIDIA® viz příručka Sestavení systému Linux ze zdrojových kódů.
- Balíčky neobsahují kód PTX s výjimkou nejnovější podporované architektury CUDA®; proto se TensorFlow nenačte na starších GPU, pokud je nastavena hodnota
CUDA_FORCE_PTX_JIT=1. (Podrobnosti naleznete v části Kompatibilita aplikací.)
Požadavky na software
V systému musí být nainstalován následující software NVIDIA®:
- Ovladače grafických procesorů NVIDIA® -CUDA®11.0 vyžaduje verzi 450.x nebo vyšší.
- Sada nástrojů CUDA® -TensorFlow podporuje CUDA® 11 (TensorFlow >= 2.4.).0)
- CUPTI se dodává se sadou nástrojů CUDA®Toolkit.
- cuDNN SDK 8.0.4 verze cuDNN).
- (Volitelné)TensorRT 6.0 pro zlepšení latence a propustnosti odvozování u některých modelů.
Nastavení systému Linux
Níže uvedené apt pokyny představují nejjednodušší způsob instalace požadovaného softwaru NVIDIA v systému Ubuntu. Pokud však sestavujete TensorFlow ze zdrojových kódů,nainstalujte výše uvedené softwarové požadavky ručně a zvažte použití-devel obrazu TensorFlow Docker jako základu.
Instalace CUPTI, který se dodává se sadou CUDA® Toolkit. Přidejte jeho instalační adresář do proměnné $LD_LIBRARY_PATHprostředí:
export LD_LIBRARY_PATH=$LD_LIBRARY_PATH:/usr/local/cuda/extras/CUPTI/lib64Instalace CUDA pomocí apt
Tato část ukazuje, jak nainstalovat CUDA® 11 (TensorFlow >= 2.4.0) v Ubuntu16.04 a 18.04. Tyto pokyny mohou fungovat i pro jiné distribuce založené na Debianu.
Ubuntu 18.04 (CUDA 11.0)
# Add NVIDIA package repositories# Install NVIDIA driver# Reboot. Check that GPUs are visible using the command: nvidia-smi# Install development and runtime libraries (~4GB)# Install TensorRT. Requires that libcudnn8 is installed above.
Ubuntu 16.04 (CUDA 11.0)
# Add NVIDIA package repositories# Add HTTPS support for apt-key# Install NVIDIA driver# Issue with driver install requires creating /usr/lib/nvidia# Reboot. Check that GPUs are visible using the command: nvidia-smi# Install development and runtime libraries (~4GB)# Install TensorRT. Requires that libcudnn7 is installed above.
Nastavení systému Windows
Podívejte se na hardwarové požadavky a požadavky na software uvedené výše. Přečtěte si průvodce instalacíCUDA® pro systém Windows.
Ujistěte se, že nainstalované softwarové balíčky NVIDIA odpovídají verzím uvedeným výše. Zejména TensorFlow se nenačte bez souboru cuDNN64_8.dll. Chcete-li použít jinou verzi, přečtěte si průvodce sestavením ze zdrojových kódů pro systém Windows.
Přidejte instalační adresáře CUDA®, CUPTI a cuDNN do proměnné %PATH%prostředí. Pokud je například sada nástrojů CUDA® nainstalována do adresářeC:\Program Files\NVIDIA GPU Computing Toolkit\CUDA\v11.0 a cuDNN do adresářeC:\tools\cuda, aktualizujte svůj %PATH% tak, aby odpovídal:
SET PATH=C:\Program Files\NVIDIA GPU Computing Toolkit\CUDA\v11.0\bin;%PATH%SET PATH=C:\Program Files\NVIDIA GPU Computing Toolkit\CUDA\v11.0\extras\CUPTI\lib64;%PATH%SET PATH=C:\Program Files\NVIDIA GPU Computing Toolkit\CUDA\v11.0\include;%PATH%SET PATH=C:\tools\cuda\bin;%PATH%
.