Membangun dari sumber

Bangun paket pip TensorFlow dari sumber dan instal di Ubuntu Linux dan macOS. Meskipun petunjuk ini mungkin berfungsi untuk sistem lain, petunjuk ini hanya diuji dan didukung untuk Ubuntu dan macOS.

Pengaturan untuk Linux dan macOS

Instal alat pembangunan berikut untuk mengonfigurasi lingkungan pengembangan Anda.

Instal Python dan dependensi paket TensorFlow

sudo apt install python3-dev python3-pip

brew install python

Instal dependensi paket pip TensorFlow (jika menggunakan lingkungan virtual, abaikan argumen --user ):

pip install -U --user pip

Instal Bazel

Untuk membangun TensorFlow, Anda perlu menginstal Bazel. Bazelisk adalah cara mudah untuk menginstal Bazel dan secara otomatis mengunduh versi Bazel yang tepat untuk TensorFlow. Untuk kemudahan penggunaan, tambahkan Bazelisk sebagai file eksekusi bazel di PATH Anda.

Jika Bazelisk tidak tersedia, Anda dapat menginstal Bazel secara manual. Pastikan untuk menginstal versi Bazel yang benar dari berkas .bazelversion TensorFlow.

Instal Clang (disarankan, hanya Linux)

Clang adalah kompiler C/C++/Objective-C yang dikompilasi dalam C++ berbasis LLVM. Ini adalah kompiler default untuk membangun TensorFlow mulai dari TensorFlow 2.13. Versi yang didukung saat ini adalah LLVM/Clang 17.

Paket LLVM Debian/Ubuntu nightly menyediakan skrip instalasi otomatis dan paket untuk instalasi manual di Linux. Pastikan Anda menjalankan perintah berikut jika Anda menambahkan repositori llvm apt secara manual ke sumber paket Anda:

sudo apt-get update && sudo apt-get install -y llvm-17 clang-17

Sekarang /usr/lib/llvm-17/bin/clang adalah jalur sebenarnya ke clang dalam kasus ini.

Alternatifnya, Anda dapat mengunduh dan membongkar Clang + LLVM 17 yang sudah dibuat sebelumnya.

Berikut adalah contoh langkah-langkah yang dapat Anda lakukan untuk menyiapkan biner Clang + LLVM 17 yang diunduh pada sistem operasi Debian/Ubuntu:

1. Beralih ke direktori tujuan yang diinginkan: cd <desired directory>

2. Muat dan ekstrak file arsip...(sesuai dengan arsitektur Anda):

   wget https://github.com/llvm/llvm-project/releases/download/llvmorg-17.0.2/clang+llvm-17.0.2-x86_64-linux-gnu-ubuntu-22.04.tar.xz
   
   tar -xvf clang+llvm-17.0.2-x86_64-linux-gnu-ubuntu-22.04.tar.xz
   

3. Salin konten yang diekstrak (direktori dan berkas) ke /usr (Anda mungkin memerlukan izin sudo, dan direktori yang benar mungkin berbeda-beda tergantung distribusinya). Ini secara efektif akan menginstal Clang dan LLVM, dan menambahkannya ke path. Anda tidak perlu mengganti apa pun, kecuali Anda memiliki instalasi sebelumnya, yang dalam hal ini Anda harus mengganti berkas-berkas berikut:

   cp -r clang+llvm-17.0.2-x86_64-linux-gnu-ubuntu-22.04/* /usr

4. Periksa versi biner Clang + LLVM 17 yang diperoleh:

   clang --version

5. Setelah /usr/bin/clang menjadi jalur sebenarnya ke clang baru Anda, Anda dapat menjalankan skrip ./configure atau secara manual mengatur variabel lingkungan CC dan BAZEL_COMPILER ke jalur ini.

Instal dukungan GPU (opsional, hanya Linux)

Tidak ada dukungan GPU untuk macOS.

Baca panduan dukungan GPU untuk menginstal driver dan perangkat lunak tambahan yang diperlukan untuk menjalankan TensorFlow pada GPU.

Unduh kode sumber TensorFlow

Gunakan Git untuk mengkloning repositori TensorFlow :

git clone https://github.com/tensorflow/tensorflow.git
cd tensorflow

Repo ini secara default menggunakan cabang pengembangan master . Anda juga dapat memeriksa cabang rilis untuk membangun:

git checkout branch_name  # r2.2, r2.3, etc.

Konfigurasikan build

Build TensorFlow dikonfigurasi oleh file .bazelrc di direktori root repositori. Skrip ./configure atau ./configure.py dapat digunakan untuk menyesuaikan pengaturan umum.

Jalankan skrip ./configure dari direktori root repositori. Skrip ini akan meminta lokasi dependensi TensorFlow dan meminta opsi konfigurasi build tambahan (misalnya, flag kompiler). Lihat bagian Contoh sesi untuk detailnya.

./configure

Ada juga versi Python dari skrip ini, ./configure.py . Jika menggunakan lingkungan virtual, python configure.py memprioritaskan jalur di dalam lingkungan, sedangkan ./configure memprioritaskan jalur di luar lingkungan. Dalam kedua kasus, Anda dapat mengubah pengaturan default.

Sesi contoh

Berikut ini menunjukkan contoh skrip ./configure (sesi Anda mungkin berbeda):

./configure
You have bazel 6.1.0 installed.
Please specify the location of python. [Default is /Library/Frameworks/Python.framework/Versions/3.9/bin/python3]: 


Found possible Python library paths:
  /Library/Frameworks/Python.framework/Versions/3.9/lib/python3.9/site-packages
Please input the desired Python library path to use.  Default is [/Library/Frameworks/Python.framework/Versions/3.9/lib/python3.9/site-packages]

Do you wish to build TensorFlow with ROCm support? [y/N]:
No ROCm support will be enabled for TensorFlow.

Do you wish to build TensorFlow with CUDA support? [y/N]:
No CUDA support will be enabled for TensorFlow.

Do you want to use Clang to build TensorFlow? [Y/n]:
Clang will be used to compile TensorFlow.

Please specify the path to clang executable. [Default is /usr/lib/llvm-16/bin/clang]:

You have Clang 16.0.4 installed.

Please specify optimization flags to use during compilation when bazel option "--config=opt" is specified [Default is -Wno-sign-compare]:


Would you like to interactively configure ./WORKSPACE for Android builds? [y/N]: n
Not configuring the WORKSPACE for Android builds.

Do you wish to build TensorFlow with iOS support? [y/N]: n
No iOS support will be enabled for TensorFlow.

Preconfigured Bazel build configs. You can use any of the below by adding "--config=<>" to your build command. See .bazelrc for more details.
    --config=mkl            # Build with MKL support.
    --config=mkl_aarch64    # Build with oneDNN and Compute Library for the Arm Architecture (ACL).
    --config=monolithic     # Config for mostly static monolithic build.
    --config=numa           # Build with NUMA support.
    --config=dynamic_kernels    # (Experimental) Build kernels into separate shared objects.
    --config=v1             # Build with TensorFlow 1 API instead of TF 2 API.
Preconfigured Bazel build configs to DISABLE default on features:
    --config=nogcp          # Disable GCP support.
    --config=nonccl         # Disable NVIDIA NCCL support.

Opsi konfigurasi

Dukungan GPU

dari v.2.18.0

Untuk dukungan GPU , atur cuda=Y selama konfigurasi dan tentukan versi CUDA dan cuDNN jika diperlukan. Bazel akan mengunduh paket CUDA dan CUDNN secara otomatis atau mengarahkan ke redistribusi CUDA/CUDNN/NCCL pada sistem berkas lokal jika diperlukan.

sebelum v.2.18.0

Untuk dukungan GPU , atur cuda=Y selama konfigurasi dan tentukan versi CUDA dan cuDNN. Jika sistem Anda memiliki beberapa versi CUDA atau cuDNN yang terpasang, atur versinya secara eksplisit, alih-alih bergantung pada versi default. ./configure membuat tautan simbolis ke pustaka CUDA sistem Anda—jadi jika Anda memperbarui jalur pustaka CUDA, langkah konfigurasi ini harus dijalankan kembali sebelum membangun.

Optimasi

Untuk flag optimasi kompilasi, nilai default ( -march=native ) mengoptimalkan kode yang dihasilkan untuk jenis CPU mesin Anda. Namun, jika membangun TensorFlow untuk jenis CPU yang berbeda, pertimbangkan flag optimasi yang lebih spesifik. Lihat manual GCC untuk contoh.

Konfigurasi yang telah dikonfigurasi sebelumnya

Ada beberapa konfigurasi build prakonfigurasi yang tersedia yang dapat ditambahkan ke perintah bazel build , misalnya:

• --config=dbg — Build dengan info debug. Lihat CONTRIBUTING.md untuk detailnya.
• --config=mkl —Dukungan untuk Intel® MKL-DNN .
• --config=monolithic —Konfigurasi untuk pembangunan monolitik yang sebagian besar statis.

Membangun dan menginstal paket pip

Opsi pembuatan Bazel

Lihat referensi baris perintah Bazel untuk opsi pembuatan .

Membangun TensorFlow dari sumber dapat menggunakan banyak RAM. Jika sistem Anda memiliki keterbatasan memori, batasi penggunaan RAM Bazel dengan: --local_ram_resources=2048 .

Paket TensorFlow resmi dibuat dengan toolchain Clang yang mematuhi standar paket manylinux2014.

Membangun paket

Untuk membangun paket pip, Anda perlu menentukan tanda --repo_env=WHEEL_NAME . Bergantung pada nama yang diberikan, paket akan dibuat, misalnya:

Untuk membangun paket CPU tensorflow:

bazel build //tensorflow/tools/pip_package:wheel --repo_env=USE_PYWRAP_RULES=1 --repo_env=WHEEL_NAME=tensorflow_cpu

Untuk membangun paket GPU tensorflow:

bazel build //tensorflow/tools/pip_package:wheel --repo_env=USE_PYWRAP_RULES=1 --repo_env=WHEEL_NAME=tensorflow --config=cuda --config=cuda_wheel

Untuk membangun paket Tensorflow TPU:

bazel build //tensorflow/tools/pip_package:wheel --repo_env=USE_PYWRAP_RULES=1 --repo_env=WHEEL_NAME=tensorflow_tpu --config=tpu

Untuk membangun paket nightly, tetapkan tf_nightly alih-alih tensorflow , misalnya untuk membangun paket CPU nightly:

bazel build //tensorflow/tools/pip_package:wheel --repo_env=USE_PYWRAP_RULES=1 --repo_env=WHEEL_NAME=tf_nightly_cpu

Akibatnya, roda yang dihasilkan akan berada di

bazel-bin/tensorflow/tools/pip_package/wheel_house/

Instal paketnya

Nama file .whl yang dihasilkan bergantung pada versi TensorFlow dan platform Anda. Gunakan pip install untuk menginstal paket, misalnya:

pip install bazel-bin/tensorflow/tools/pip_package/wheel_house/tensorflow-version-tags.whl

Membangun Docker Linux

Citra pengembangan Docker TensorFlow adalah cara mudah untuk menyiapkan lingkungan guna membangun paket Linux dari sumbernya. Citra ini sudah berisi kode sumber dan dependensi yang diperlukan untuk membangun TensorFlow. Kunjungi panduan TensorFlow Docker untuk petunjuk instalasi dan daftar tag citra yang tersedia .

Hanya CPU

Contoh berikut menggunakan image :devel untuk membangun paket khusus CPU dari kode sumber TensorFlow terbaru. Periksa panduan Docker untuk tag TensorFlow -devel yang tersedia.

Unduh citra pengembangan terbaru dan mulai kontainer Docker yang akan Anda gunakan untuk membangun paket pip :

docker pull tensorflow/tensorflow:devel
docker run -it -w /tensorflow_src -v $PWD:/mnt -e HOST_PERMS="$(id -u):$(id -g)" \
    tensorflow/tensorflow:devel bash

git pull  # within the container, download the latest source code

Perintah docker run di atas memulai shell di direktori /tensorflow_src —akar dari pohon sumber. Perintah ini memasang direktori host saat ini di direktori /mnt kontainer, dan meneruskan informasi pengguna host ke kontainer melalui variabel lingkungan (digunakan untuk mengatur izin—Docker dapat mempersulit hal ini).

Alternatifnya, untuk membuat salinan host TensorFlow dalam kontainer, pasang pohon sumber host di direktori /tensorflow kontainer:

docker run -it -w /tensorflow -v /path/to/tensorflow:/tensorflow -v $PWD:/mnt \
    -e HOST_PERMS="\\((id -u):\\)(id -g)" tensorflow/tensorflow:devel bash

Setelah pohon sumber disiapkan, bangun paket TensorFlow dalam lingkungan virtual kontainer:

1. Opsional: Konfigurasikan build—ini meminta pengguna untuk menjawab pertanyaan konfigurasi build.
2. Bangun paket pip .
3. Sesuaikan izin kepemilikan berkas untuk luar wadah.

./configure  # if necessary


bazel build //tensorflow/tools/pip_package:wheel \
--repo_env=USE_PYWRAP_RULES=1 --repo_env=WHEEL_NAME=tensorflow_cpu --config=opt

`
chown $HOST_PERMS bazel-bin/tensorflow/tools/pip_package/wheel_house/tensorflow-version-tags.whl

Instal dan verifikasi paket di dalam kontainer:

pip uninstall tensorflow  # remove current version

pip install bazel-bin/tensorflow/tools/pip_package/wheel_house/tensorflow-version-tags.whl
cd /tmp  # don't import from source directory
python -c "import tensorflow as tf; print(tf.__version__)"

Di mesin host Anda, paket pip TensorFlow ada di direktori saat ini (dengan izin pengguna host): ./tensorflow- version - tags .whl

Dukungan GPU

Docker adalah cara termudah untuk membangun dukungan GPU untuk TensorFlow karena mesin host hanya memerlukan driver NVIDIA® ( NVIDIA® CUDA® Toolkit tidak perlu diinstal). Lihat panduan dukungan GPU dan panduan TensorFlow Docker untuk menyiapkan nvidia-docker (khusus Linux).

Contoh berikut mengunduh citra TensorFlow :devel-gpu dan menggunakan nvidia-docker untuk menjalankan kontainer yang mendukung GPU. Citra pengembangan ini dikonfigurasi untuk membangun paket pip dengan dukungan GPU:

docker pull tensorflow/tensorflow:devel-gpu
docker run --gpus all -it -w /tensorflow -v $PWD:/mnt -e HOST_PERMS="$(id -u):$(id -g)" \
    tensorflow/tensorflow:devel-gpu bash
git pull  # within the container, download the latest source code

Kemudian, dalam lingkungan virtual kontainer, bangun paket TensorFlow dengan dukungan GPU:

./configure  # if necessary


bazel build //tensorflow/tools/pip_package:wheel \
--repo_env=USE_PYWRAP_RULES=1 --repo_env=WHEEL_NAME=tensorflow --config=cuda \
--config=cuda_wheel --config=opt


chown $HOST_PERMS bazel-bin/tensorflow/tools/pip_package/wheel_house/tensorflow-version-tags.whl

Instal dan verifikasi paket di dalam kontainer dan periksa GPU:

pip uninstall tensorflow  # remove current version

pip install bazel-bin/tensorflow/tools/pip_package/wheel_house/tensorflow-version-tags.whl
cd /tmp  # don't import from source directory
python -c "import tensorflow as tf; print(\"Num GPUs Available: \", len(tf.config.list_physical_devices('GPU')))"

Konfigurasi build yang diuji

Linux

CPU

GPU

macOS

CPU

GPU