Я новичок в TensorFlow. Я недавно установил его (версия процессора Windows) и получил следующее сообщение:

Успешно установлено tenorflow-1.4.0 tenorflow-tenorboard-0.4.0rc2

Затем, когда я пытался бежать

import tensorflow as tf
hello = tf.constant('Hello, TensorFlow!')
sess = tf.Session()
sess.run(hello)
'Hello, TensorFlow!'
a = tf.constant(10)
b = tf.constant(32)
sess.run(a + b)
42
sess.close()

(который я нашел через https://github.com/tensorflow/tensorflow )

Я получил следующее сообщение:

2017-11-02 01: 56: 21.698935: IC: \ tf_jenkins \ home \ workspace \ rel-win \ M \ windows \ PY \ 36 \ensorflow \ core \ platform \ cpu_feature_guard.cc: 137] Ваш ЦП поддерживает следующие инструкции: Двоичный файл TensorFlow не скомпилирован для использования: AVX AVX2

Но когда я побежал

import tensorflow as tf
hello = tf.constant('Hello, TensorFlow!')
sess = tf.Session()
print(sess.run(hello))

он работал как надо и выводил Hello, TensorFlow!, что указывает на то, что установка действительно прошла успешно, но есть что-то еще, что не так.

Знаете ли вы, в чем проблема и как ее исправить?

О чем это предупреждение?

Современные процессоры предоставляют много низкоуровневых инструкций, помимо обычной арифметики и логики, известных как расширения, например, SSE2, SSE4, AVX и т. Д. Из Википедии :

Advanced Vector Extensions ( AVX ) - это расширения архитектуры набора команд x86 для микропроцессоров от Intel и AMD, предложенные Intel в марте 2008 года и впервые поддерживаемые Intel с выпуском процессора Sandy Bridge в первом квартале 2011 года, а затем AMD с выпуском процессора Bulldozer. в третьем квартале 2011 года. AVX предоставляет новые функции, новые инструкции и новую схему кодирования.

В частности, AVX вводит операции слияния с умножением и накоплением (FMA), которые ускоряют вычисления в линейной алгебре, а именно: произведение точек, умножение матриц, свертка и т. Д. Почти каждое обучение машинному обучению включает в себя множество этих операций, поэтому будет быстрее на процессоре, который поддерживает AVX и FMA (до 300%). В предупреждении говорится, что ваш процессор поддерживает AVX (ура!).

Я хотел бы подчеркнуть здесь: все дело только в процессоре .

Почему тогда не используется?

Поскольку распределение по умолчанию тензорного потока построено без расширений ЦП , таких как SSE4.1, SSE4.2, AVX, AVX2, FMA и т. Д. Сборки по умолчанию (из которых pip install tensorflow) предназначены для совместимости с максимально возможным количеством ЦП. Другой аргумент заключается в том, что даже с этими расширениями ЦП намного медленнее, чем ГП, и ожидается, что средне- и крупномасштабное обучение машинному обучению будет проводиться на ГП.

Что вы должны сделать?

Если у вас есть графический процессор , вам не нужно заботиться о поддержке AVX, потому что самые дорогие операции будут отправляться на устройство с графическим процессором (если явно не указано иное). В этом случае вы можете просто проигнорировать это предупреждение

# Just disables the warning, doesn't enable AVX/FMA
import os
os.environ['TF_CPP_MIN_LOG_LEVEL'] = '2'

... или установкой, export TF_CPP_MIN_LOG_LEVEL=2если вы используете Unix. В любом случае Tensorflow работает нормально, но вы не увидите этих раздражающих предупреждений.

Если у вас нет графического процессора и вы хотите максимально использовать процессор, вы должны создать тензорный поток из источника, оптимизированного для вашего процессора, с включенными AVX, AVX2 и FMA, если ваш процессор поддерживает их. Это обсуждалось в этом вопросе, а также в проблеме GitHub . Tensorflow использует специальную систему сборки под названием bazel, и ее сборка не так тривиальна, но, безусловно, выполнима. После этого не только исчезнет предупреждение, но и улучшится производительность тензорного потока.

Обновите двоичный файл tenorflow для вашего процессора и ОС, используя эту команду

pip install --ignore-installed --upgrade "Download URL"

URL загрузки файла whl можно найти здесь

https://github.com/lakshayg/tensorflow-build

Оптимизация процессора с помощью графического процессора

Вы можете получить прирост производительности, установив TensorFlow из исходного кода, даже если у вас есть графический процессор и вы используете его для обучения и умозаключений. Причина в том, что некоторые операции TF имеют только реализацию CPU и не могут выполняться на вашем GPU.

Кроме того, есть несколько советов по повышению производительности, которые эффективно используют ваш процессор. Руководство по производительности TensorFlow рекомендует следующее:

Размещение операций ввода-вывода на процессоре может значительно повысить производительность. Использование CPU для входного конвейера освобождает GPU для сосредоточения на обучении.

Для лучшей производительности вы должны написать свой код, чтобы использовать ваш ЦП и графический процессор для совместной работы, а не выгружать все это на свой графический процессор, если он у вас есть. Оптимизация ваших двоичных файлов TensorFlow для вашего процессора может окупить часы сэкономленного времени работы, и вам придется сделать это один раз.

Для Windows вы можете проверить официальную оптимизацию Intel MKL для колес TensorFlow , скомпилированных с AVX2. Это решение ускоряет мой вывод ~ х3.

conda install tensorflow-mkl

Для Windows (спасибо владельцу f040225) перейдите по ссылке: https://github.com/fo40225/tensorflow-windows-wheel, чтобы получить URL-адрес вашей среды на основе комбинации «tf + python + cpu_instruction_extension». Затем используйте этот cmd для установки:

pip install --ignore-installed --upgrade "URL"

Если вы столкнулись с ошибкой «Файл не является zip-файлом», загрузите .whl на свой локальный компьютер и используйте этот cmd для установки:

pip install --ignore-installed --upgrade /path/target.whl

Если вы используете pip- версию tenorflow, это означает, что она уже скомпилирована, и вы просто ее устанавливаете. По сути, вы устанавливаете tenorflow-gpu, но когда вы загружаете его из репозитория и пытаетесь его собрать, вы должны собрать его с поддержкой CPU AVX. Если вы проигнорируете это, вы получите предупреждение каждый раз, когда вы запускаете процессор.

Самый простой способ, который я нашел, чтобы это исправить, это удалить все и установить определенную версию tenorflow-gpu:

1. удалить tenorflow:

    pip uninstall tensorflow

2. удалить tenorflow-gpu: (обязательно запустите это, даже если вы не уверены, что установили его)

    pip uninstall tensorflow-gpu

3. Установите конкретную версию tenorflow-gpu:

    pip install tensorflow-gpu==2.0.0
    pip install tensorflow_hub
    pip install tensorflow_datasets

Вы можете проверить, сработало ли это, добавив следующий код в файл Python:

from __future__ import absolute_import, division, print_function, unicode_literals

import numpy as np

import tensorflow as tf
import tensorflow_hub as hub
import tensorflow_datasets as tfds

print("Version: ", tf.__version__)
print("Eager mode: ", tf.executing_eagerly())
print("Hub Version: ", hub.__version__)
print("GPU is", "available" if tf.config.experimental.list_physical_devices("GPU") else "NOT AVAILABLE")

Запустите файл и затем результат должен быть примерно таким:

Version:  2.0.0
Eager mode:  True
Hub Version:  0.7.0
GPU is available

Надеюсь это поможет

Что сработало для меня, так это библиотека https://pypi.org/project/silence-tensorflow/

Установите эту библиотеку и сделайте так, как указано на странице, она работает как шарм!