TensorFlow’n GPU-tuki vaatii valikoiman ajureita ja kirjastoja. Asennuksen yksinkertaistamiseksi ja kirjastoristiriitojen välttämiseksi suosittelemme käyttämäänTensorFlow Docker-kuvaa, jossa on GPU-tuki (vain Linux). Tämä asennus vaatii vain NVIDIA® GPU-ajurit.
Nämä asennusohjeet koskevat TensorFlow’n uusinta versiota. Katso testatut rakentamiskokoonpanot CUDA®- ja cuDNN-versioille, joita voit käyttää vanhempien TensorFlow-julkaisujen kanssa.
Pip-paketti
Katso pip-asennusoppaasta saatavilla olevat paketit, järjestelmävaatimukset ja ohjeet. TensorFlow-paketti pip sisältää GPU-tuenCUDA®-yhteensopiville korteille:
pip install tensorflowTämä opas kattaa GPU-tuen ja asennusvaiheet viimeisimmälle stabiililleTensorFlow-julkaisulle.
TensorFlow:n vanhemmat versiot
Julkaisuille 1.15 ja vanhemmat, CPU- ja GPU-paketit ovat erillisiä:
pip install tensorflow==1.15 # CPUpip install tensorflow-gpu==1.15 # GPU
Hardware-vaatimukset
Tuetaan seuraavia GPU:ta tukevia laitteita:
- NVIDIA® GPU-kortti, jossa on CUDA®-arkkitehtuurit 3.5, 5.0, 6.0, 7.0, 7.5, 7.0, 8.0 jakorkeampi kuin 8.0. Katso luetteloCUDA®-yhteensopivistaGPU-korteista.
- GPU-kortteja varten, joissa ei ole tuettuja CUDA®-arkkitehtuureja, tai jos haluat välttää JIT-kääntämistä PTX:stä tai käyttää NVIDIA®-kirjastojen eri versioita, katsoLinux build from source -opas.
- Paketit eivät sisällä PTX-koodia muuten kuin viimeisimmälle tuetulle CUDA®-arkkitehtuurille; siksi TensorFlow ei lataudu vanhemmilla näytönohjaimilla silloin, kun asetetaan arvoksi
CUDA_FORCE_PTX_JIT=1. (Katso lisätietoja kohdasta Sovellusyhteensopivuus.)
Ohjelmistovaatimukset
Järjestelmään on asennettava seuraavat NVIDIA®-ohjelmistot:
- NVIDIA® GPU-ohjaimet -CUDA®11.0 vaatii 450.x:n tai uudemman.
- CUDA®-työkalupakki -TensorFlow tukee CUDA® 11:tä (TensorFlow >= 2.4.0)
- CUPTI toimitetaan CUDA®Toolkitin kanssa.
- cuDNN SDK 8.0.4 cuDNN-versiot).
- (Valinnainen)TensorRT 6.0 parantaa latenssia ja läpimenoa joidenkin mallien päättelyssä.
Linux-asennus
Alla olevat apt ohjeet ovat helpoin tapa asentaa tarvittavat NVIDIAohjelmistot Ubuntuun. Jos kuitenkin rakennat TensorFlow’n lähdekoodista,asenna edellä luetellut ohjelmistovaatimukset manuaalisesti ja harkitse-devel TensorFlow Docker-kuvauksen käyttämistä pohjana.
Asenna CUPTI, joka toimitetaan CUDA® Toolkitin mukana. Liitä sen asennushakemisto $LD_LIBRARY_PATHympäristömuuttujaan:
export LD_LIBRARY_PATH=$LD_LIBRARY_PATH:/usr/local/cuda/extras/CUPTI/lib64Asenna CUDA apt:lla
Tässä osiossa näytetään, miten CUDA® 11 (TensorFlow >= 2.4.0) asennetaan Ubuntu16.04- ja 18.04-käyttöjärjestelmiin. Nämä ohjeet saattavat toimia myös muissa Debian-pohjaisissa distroissa.
Ubuntu 18.04 (CUDA 11.0)
# Add NVIDIA package repositories# Install NVIDIA driver# Reboot. Check that GPUs are visible using the command: nvidia-smi# Install development and runtime libraries (~4GB)# Install TensorRT. Requires that libcudnn8 is installed above.
Ubuntu 16.04 (CUDA 11.0)
# Add NVIDIA package repositories# Add HTTPS support for apt-key# Install NVIDIA driver# Issue with driver install requires creating /usr/lib/nvidia# Reboot. Check that GPUs are visible using the command: nvidia-smi# Install development and runtime libraries (~4GB)# Install TensorRT. Requires that libcudnn7 is installed above.
Windows-asennus
Katsokaa edellä lueteltuja laitteistovaatimuksia ja ohjelmistovaatimuksia. LueCUDA®-asennusopas Windowsille.
Varmista, että asennetut NVIDIA-ohjelmistopaketit vastaavat edellä lueteltuja versioita. Erityisesti TensorFlow ei lataudu ilman cuDNN64_8.dll-tiedostoa. Jos haluat käyttää eri versiota, katso Windows build from source -opas.
Lisää CUDA®-, CUPTI- ja cuDNN-asennushakemistot %PATH%ympäristömuuttujaan. Jos esimerkiksi CUDA® Toolkit on asennettu osoitteeseenC:\Program Files\NVIDIA GPU Computing Toolkit\CUDA\v11.0 ja cuDNN osoitteeseenC:\tools\cuda, päivitä %PATH% vastaamaan:
SET PATH=C:\Program Files\NVIDIA GPU Computing Toolkit\CUDA\v11.0\bin;%PATH%SET PATH=C:\Program Files\NVIDIA GPU Computing Toolkit\CUDA\v11.0\extras\CUPTI\lib64;%PATH%SET PATH=C:\Program Files\NVIDIA GPU Computing Toolkit\CUDA\v11.0\include;%PATH%SET PATH=C:\tools\cuda\bin;%PATH%
.