neuroproject.ru

спасибо!

Еще немаловажный пункт. На сколько я понял данный алгоритм позволяет осуществлять обучение как в онлайн режиме, так и по всей выборке. Это действительно так? Если да, то лучше остановиться на онлайн о ...

Спасибо! Посомтрю обязательно

Еще вопрос, какую лучше функцию активации использовать? И на всех ли слоях одну. Я читал, что оптимальной является гиперболический тангенс

Виктор Геннадьевич и снова здравствуйте)

Разобрался с сопряженными градиентами, пошел дальше. Осваиваю метод Левенберга - Марквардта. Опять много вопросов относительно того, что прочитал. Итак попо ...

Большое спасибо за помощь, Виктор Геннадьевич! Буду сейчас разбираться с полученными сведлениями и править баги!)

С функциями понятно - буду смотреть.
Да, именно об ошибке на тестовой выборке я и говорю. Из тех тестов, что я проводил, ошибку обучения можно свести к достаточно малым величинам. Но при этом ошибка ...

Ну мерял я по величине ошибки. То есть по количеству итераций, безусловно выигрывает метод сопряженных градиентов. Да и по времени тоже. Но вот ошибка либо соизмерима, лиюо хуже.

В этой связи возни ...

Сделал алгоритм. Возникает вопрос, как его лучше потестирвоать. На тех данных, что я пробовал он показывает себя, почему - то, также или хуже чем метод наискорейшего спуска! Воможно, я где то ошибся. ...

Про градиент так и есть! Я описался просто. Все верно, сигнал на ошибку.

Огромное спасибо за исчерпывающие ответы! Вы очень помогли.Сейчас буду стараться реализовать.

Еще поправка: если пользоваться алгоритмом обратного распространения, то мы получаем градиент в следующем виде g(w) = (dE/dw0, dE/dw1, ...), где фактическое значение производных вычисляется как произв ...

Реализацией как раз занимаюсь в данный момент. Обучение делаю по все выборке. Интересный факт, что градиент тоже суммируется. Я предполагал, что необходимо вычислить суммарную ошибку по все выборке, и ...

Кратко о проблеме: успешно реализовал слоистую нейронную сеть, использующую алгоритм обратного распространения ошибки. На сколько я понимаю, в данном алгоритме для оптимизации используется метод наиск ...