GPU-támogatás

A TensorFlow GPU-támogatása számos illesztőprogramot és könyvtárat igényel. A telepítés egyszerűsítése és a könyvtárkonfliktusok elkerülése érdekében javasoljuk a GPU-támogatással rendelkezőTensorFlow Docker-kép használatát (csak Linux). Ez a telepítés csak az NVIDIA® GPU-illesztőprogramokat igényli.

Ezek a telepítési utasítások a TensorFlow legújabb kiadására vonatkoznak. A régebbi TensorFlow-kiadásokkal használható CUDA® és cuDNN verziókhoz lásd a tesztelt építési konfigurációkat.

Pip csomag

A pip telepítési útmutatóban találhatók az elérhető csomagok, rendszerkövetelmények és utasítások. A TensorFlow pip csomag tartalmazza aCUDA® -képes kártyák GPU-támogatását:

pip install tensorflow

Ez az útmutató a GPU-támogatást és a telepítés lépéseit tartalmazza a legújabb stabilTensorFlow kiadáshoz.

A TensorFlow régebbi verziói

Az 1. kiadáshoz.15 és régebbi verziókhoz a CPU- és GPU-csomagok különállóak:

pip install tensorflow==1.15 # CPUpip install tensorflow-gpu==1.15 # GPU

Hardverkövetelmények

A következő GPU-képes eszközök támogatottak:

• NVIDIA® GPU-kártya CUDA® architektúrával 3.5, 5.0, 6.0, 7.0, 7.5, 8.0 és 8.0-nál magasabb. Lásd a CUDA®-képes GPU-kártyák listáját.
• A nem támogatott CUDA®-architektúrájú GPU-k esetében, vagy a PTX-ből történő JIT-fordítás elkerülése vagy az NVIDIA® könyvtárak különböző verzióinak használata érdekében lásd a Linux build from source útmutatót.
• A csomagok csak a legújabb támogatott CUDA®architektúra esetén tartalmaznak PTX-kódot; ezért a TensorFlow nem tölthető be régebbi GPU-kra, haCUDA_FORCE_PTX_JIT=1 van beállítva. (Részletekért lásd az Alkalmazáskompatibilitás című fejezetet.)

Szoftverkövetelmények

A következő NVIDIA® szoftvereket kell telepíteni a rendszerre:

• NVIDIA® GPU-illesztőprogramok -A CUDA®11.0-hoz 450.x vagy magasabb verziószám szükséges.
• CUDA® Toolkit -TensorFlow támogatja a CUDA® 11-et (TensorFlow >= 2.4.0)
• A CUPTI a CUDA®Toolkit-tel együtt szállítja.
• cuDNN SDK 8.0.4 cuDNN verziók).
• (Opcionális)TensorRT 6.0 a késleltetés és az átviteli sebesség javítása érdekében egyes modellek következtetésénél.

Linux telepítés

Az alábbi apt utasításokkal a legegyszerűbben telepítheti a szükséges NVIDIAszoftvereket Ubuntun. Ha azonban a TensorFlow-t forrásból építi fel,manuálisan telepítse a fent felsorolt szoftverkövetelményeket, és fontolja meg egy-devel TensorFlow Docker image használatát alapként.

Telepítse a CUPTI-t, amely a CUDA® Toolkit-tel együtt szállítja. Csatolja a telepítési könyvtárát a $LD_LIBRARY_PATHkörnyezeti változóhoz:

export LD_LIBRARY_PATH=$LD_LIBRARY_PATH:/usr/local/cuda/extras/CUPTI/lib64

Telepítse a CUDA-t az apt segítségével

Ez a szakasz a CUDA® 11 (TensorFlow >= 2.4.0) telepítését mutatja be Ubuntu16.04 és 18.04 rendszereken. Ezek az utasítások más Debian-alapú disztribúciók esetén is működhetnek.

Ubuntu 18.04 (CUDA 11.0)

# Add NVIDIA package repositories# Install NVIDIA driver# Reboot. Check that GPUs are visible using the command: nvidia-smi# Install development and runtime libraries (~4GB)# Install TensorRT. Requires that libcudnn8 is installed above.

Ubuntu 16.04 (CUDA 11.0)

# Add NVIDIA package repositories# Add HTTPS support for apt-key# Install NVIDIA driver# Issue with driver install requires creating /usr/lib/nvidia# Reboot. Check that GPUs are visible using the command: nvidia-smi# Install development and runtime libraries (~4GB)# Install TensorRT. Requires that libcudnn7 is installed above.

Windows beállítás

Lásd a fent felsorolt hardver- és szoftverkövetelményeket. Olvassa el aCUDA® telepítési útmutatót Windowshoz.

GYőződjön meg arról, hogy a telepített NVIDIA szoftvercsomagok megfelelnek a fent felsorolt verzióknak. Különösen a TensorFlow nem fog betöltődni a cuDNN64_8.dll fájl nélkül. Más verzió használatához lásd a Windows build from source útmutatót.

Add hozzá a CUDA®, CUPTI és cuDNN telepítési könyvtárakat a %PATH%környezeti változóhoz. Ha például a CUDA® Toolkit aC:\Program Files\NVIDIA GPU Computing Toolkit\CUDA\v11.0 és a cuDNN aC:\tools\cuda helyre van telepítve, frissítse a %PATH% változót, hogy megfeleljen:

SET PATH=C:\Program Files\NVIDIA GPU Computing Toolkit\CUDA\v11.0\bin;%PATH%SET PATH=C:\Program Files\NVIDIA GPU Computing Toolkit\CUDA\v11.0\extras\CUPTI\lib64;%PATH%SET PATH=C:\Program Files\NVIDIA GPU Computing Toolkit\CUDA\v11.0\include;%PATH%SET PATH=C:\tools\cuda\bin;%PATH%