переменные все еще обновляются, даже если для скорости обучения установлено значение 0

Использовать метод UploadStringAsync:

        WebClient webClient = new WebClient();
        webClient.UploadStringCompleted += (s, e) =>
            {
                if (e.Error != null)
                {
                    //handle your error here
                }
                else
                {
                    //post was successful, so do what you need to do here
                }

            };


        webClient.UploadStringAsync(new Uri(yourUri), UriKind.Absolute), "POST", yourParameters);     
0
задан Alpha 13 July 2018 в 06:48
поделиться

2 ответа

И ваша модель не будет обновляться:

import tensorflow as tf

w = tf.get_variable('w', initializer=42.)
cost_op = tf.square(w)
train_op = tf.train.GradientDescentOptimizer(0.0).minimize(cost_op)

with tf.Session() as sess:
    sess.run(tf.global_variables_initializer())
    for i in range(10):
        _, cost, value = sess.run([train_op, cost_op, w])
        print(i, cost, value)

дает

(0, 1764.0, 42.0)
(1, 1764.0, 42.0)
(2, 1764.0, 42.0)
(3, 1764.0, 42.0)
(4, 1764.0, 42.0)
(5, 1764.0, 42.0)
(6, 1764.0, 42.0)
(7, 1764.0, 42.0)
(8, 1764.0, 42.0)
(9, 1764.0, 42.0)

как для AdamOptimizer, так и для GradientDescentOptimizer. Мое лучшее предположение - это неградиентное обновление, такое как BatchNorm и / или NaN в ваших данных, вызывающих NaN. Или даже неправильная операция.

Как вы ожидаете получить помощь, не указав свою реализацию в [mcve]?

1
ответ дан Patwie 17 August 2018 в 13:31
поделиться
  • 1
    Обновление BatchNorm также нуждается в lr, и я уверен, что это связано не с моими данными, потому что если я полностью удалю часть optimization, то есть просто распечатаю вывод последнего слоя модели, он не получит NaN при любых итерациях. – Alpha 14 July 2018 в 01:47

Patwiw прав!

На самом деле, это потому, что мой код использует tf.log для неверных данных истины, что приводит к потере -inf.

0
ответ дан Alpha 17 August 2018 в 13:31
поделиться
Другие вопросы по тегам:

Похожие вопросы: