Вопросы с тегом «tensorflow»

104
Как установить адаптивную скорость обучения для GradientDescentOptimizer?

Я использую TensorFlow для обучения нейронной сети. Вот как я инициализирую GradientDescentOptimizer: init = tf.initialize_all_variables() sess = tf.Session() sess.run(init) mse = tf.reduce_mean(tf.square(out - out_)) train_step = tf.train.GradientDescentOptimizer(0.3).minimize(mse) Дело в том, что...

102
Загрузка обученной модели Keras и продолжение обучения

Мне было интересно, можно ли сохранить частично обученную модель Keras и продолжить обучение после повторной загрузки модели. Причина этого в том, что в будущем у меня будет больше обучающих данных, и я не хочу снова переобучать всю модель. Я использую следующие функции: #Partly train model...

101
Значение buffer_size в Dataset.map, Dataset.prefetch и Dataset.shuffle

Согласно TensorFlow документации , то prefetchи mapметоды tf.contrib.data.Datasetкласса, оба имеют параметр с именем buffer_size. Для prefetchметода параметр известен как buffer_sizeи согласно документации: buffer_size: скаляр tf.int64 tf.Tensor, представляющий максимальное количество элементов,...

98
TensorFlow сохраняет / загружает график из файла

Из того, что я собрал до сих пор, существует несколько различных способов сбросить график TensorFlow в файл и затем загрузить его в другую программу, но я не смог найти четких примеров / информации о том, как они работают. Я уже знаю следующее: Сохраните переменные модели в файл контрольной точки...

97
Можно ли заставить Keras с бэкэндом Tensorflow по желанию использовать CPU или GPU?

У меня установлен Keras с серверной частью Tensorflow и CUDA. Я бы хотел, чтобы иногда по требованию Keras использовал CPU. Можно ли это сделать без установки отдельного Tensorflow только для ЦП в виртуальной среде? Если да, то как? Если бы бэкэнд был Theano, флаги можно было бы установить, но я...

96
Как применить градиентную обрезку в TensorFlow?

Учитывая пример кода . Я хотел бы знать, как применить градиентное отсечение в этой сети в RNN, где есть возможность взрывных градиентов. tf.clip_by_value(t, clip_value_min, clip_value_max, name=None) Это пример, который можно использовать, но где мне его представить? В деф РНН lstm_cell =...

95
Использование предварительно обученного встраивания слов (word2vec или Glove) в TensorFlow

Недавно я рассмотрел интересную реализацию классификации сверточного текста . Однако весь код TensorFlow, который я рассмотрел, использует случайные (не предварительно обученные) векторы внедрения, например следующие: with tf.device('/cpu:0'), tf.name_scope("embedding"): W = tf.Variable(...

94
Как добавить регуляризации в TensorFlow?

Я обнаружил, что во многих доступном коде нейронных сетей, реализованном с использованием TensorFlow, условия регуляризации часто реализуются путем добавления вручную дополнительного члена к значению потерь. Мои вопросы: Есть ли более элегантный или рекомендуемый способ регуляризации, чем это...

92
В чем разница между np.mean и tf.reduce_mean?

В руководстве для начинающих MNIST есть утверждение accuracy = tf.reduce_mean(tf.cast(correct_prediction, "float")) tf.castв основном меняет тип тензора объекта, но в чем разница между tf.reduce_meanи np.mean? Вот документ tf.reduce_mean: reduce_mean(input_tensor, reduction_indices=None,...

88
Не удалось установить пакеты из-за ошибки EnvironmentError: [WinError 5] Доступ запрещен:

У меня Windows 10. Я завершил установку Tensorflow. Оно работает. Он говорит: «Привет, Tensorflow!». Но перед ним все это: 2018-08-18 18:16:01.500579: I T:\src\github\tensorflow\tensorflow\core\platform\cpu_feature_guard.cc:141] Your CPU supports instructions that this TensorFlow binary was not...

88
Как получить размеры (форму) тензорного потока Tensorflow в виде значений int?

Предположим, у меня есть тензор тензорного потока. Как получить размеры (форму) тензора в виде целочисленных значений? Я знаю, что есть два метода, tensor.get_shape()и tf.shape(tensor), но я не могу получить значения формы как целые числа int32. Например, ниже я создал двумерный тензор, и мне...

88
Что означает global_step в Tensorflow?

Это учебный код с веб-сайта TensorFlow, может ли кто-нибудь помочь объяснить, что global_stepзначит? На веб-сайте Tensorflow я обнаружил, что глобальный шаг используется для подсчета шагов обучения , но я не совсем понимаю, что именно это означает. Кроме того, что означает цифра 0 при настройке...

84
Как выбрать потерю кросс-энтропии в TensorFlow?

Проблемы классификации, такие как логистическая регрессия или полиномиальная логистическая регрессия, оптимизируют кросс-энтропийную потерю. Обычно слой кросс-энтропии следует за слоем softmax , который производит распределение вероятностей. В тензорном потоке есть как минимум дюжина различных...

84
Как * на самом деле * читать данные CSV в TensorFlow?

Я относительно новичок в мире TensorFlow и довольно озадачен тем, как вы на самом деле считываете данные CSV в пригодные для использования тензоры примеров / меток в TensorFlow. Пример из учебника TensorFlow по чтению данных CSV довольно фрагментирован и дает вам лишь часть пути к обучению на...

47
ВНИМАНИЕ: тензор потока: образцы-весовые режимы были переведены из… в ['…']

Обучение классификатора изображений с использованием .fit_generator()или .fit()передачей словаря class_weight=в качестве аргумента. Я никогда не получал ошибок в TF1.x, но в 2.1 я получаю следующий вывод при начале обучения: WARNING:tensorflow:sample_weight modes were coerced from ... to ['...']...

30
Пользовательский оптимизатор TensorFlow Keras

Предположим, я хочу написать собственный класс оптимизатора, соответствующий tf.kerasAPI (используя версию TensorFlow> = 2.0). Я запутался в документированном способе сделать это по сравнению с тем, что сделано в реализациях. Документация для tf.keras.optimizers.Optimizer штатов , ### Write a...

29
Как обучить модель в nodejs (tenorflow.js)?

Я хочу сделать классификатор изображений, но я не знаю Python. Tensorflow.js работает с JavaScript, с которым я знаком. Могут ли модели обучаться с этим и каковы будут шаги для этого? Честно говоря, я понятия не имею, с чего начать. Единственное, что я понял, это как загрузить «мобильную сеть»,...

23
Почему модель keras предсказывает медленнее после компиляции?

Теоретически прогноз должен быть постоянным, поскольку веса имеют фиксированный размер. Как мне вернуть скорость после компиляции (без необходимости удалять оптимизатор)? См. Связанный эксперимент:...