Список форумов neuroproject.ru neuroproject.ru
Форум сайта компании НейроПроект
 
 FAQFAQ   ПоискПоиск   ПользователиПользователи   ГруппыГруппы   РегистрацияРегистрация 
 ПрофильПрофиль   Войти и проверить личные сообщенияВойти и проверить личные сообщения   ВходВход 

Метод обратного распространения

 
Начать новую тему   Ответить на тему    Список форумов neuroproject.ru -> Нейронные сети
Предыдущая тема :: Следующая тема  
Автор Сообщение
KuKu
Новый посетитель
Новый посетитель


Зарегистрирован: 26 Авг 2010
Сообщения: 3

СообщениеДобавлено: Чт Авг 26, 2010 4:15 pm    Заголовок сообщения: Метод обратного распространения Ответить с цитатой

Добрый день! Встал вопрос о методе обратного распространения ошибки ... по ссылкам из гугла реализовал его, но вызывает сомнения что он вообще может позволить заставить запомнить сеть больше одного примера. Т.е что я имею ввиду... грубо говоря есть какая либо нейронная сеть и есть два входа: сеть должна выдавать 1, если на на входы подают 1 и 1, и должна выдавать 0,2 если подаются -1 и -1 ( это так грубая модель что бы разобраться что да как).Во время обучения на первый пример коэфициенты весов будут идти в одну сторону, а на другом примере в другую и того сеть "уча" один пример "забывает" сразу второй. Я что то не так понимаю, не так реализовываю, на этот пример нельзя научить или все вместе ?
P.S. если можно разоберите на этом или каком нибудь другом простом примере как должно происходить обучение
Вернуться к началу
Посмотреть профиль Отправить личное сообщение
KuKu
Новый посетитель
Новый посетитель


Зарегистрирован: 26 Авг 2010
Сообщения: 3

СообщениеДобавлено: Чт Авг 26, 2010 7:01 pm    Заголовок сообщения: Ответить с цитатой

обучилась на других цифрах при 17(семнадцати!!!) в скрытом слое и 100000 итераций только с двумя примерами, при цифра 1 и -1 даже так не запоминает... у меня такое чувство что это ненормально или я все таки что то не так делаю ?
Вернуться к началу
Посмотреть профиль Отправить личное сообщение
Victor G. Tsaregorodtsev
Эксперт
Эксперт


Зарегистрирован: 28 Июн 2005
Сообщения: 248
Откуда: Красноярск

СообщениеДобавлено: Пт Авг 27, 2010 4:02 pm    Заголовок сообщения: Ответить с цитатой

Бэкпроп при попримерном обучении сети нормально работает - независимо от числа примеров и от размера сети. Надо только правильно выбрать шаг обучения и, может быть, правильно инициализировать стартовые веса синапсов сети.
В общем, курите учебники и разбирайтесь с проблемами (в понимании ли проблемы, в программе или в настройках алгоритма).
_________________
neuropro.ru - нейронные сети, анализ данных, прогнозирование
Вернуться к началу
Посмотреть профиль Отправить личное сообщение Отправить e-mail Посетить сайт автора
KuKu
Новый посетитель
Новый посетитель


Зарегистрирован: 26 Авг 2010
Сообщения: 3

СообщениеДобавлено: Пт Авг 27, 2010 5:23 pm    Заголовок сообщения: Ответить с цитатой

частично проблема решилась(уже достаточно двух нейронов), учить каждый нейрон на свои пример ...
но число итераций все равно многовато :(
Вернуться к началу
Посмотреть профиль Отправить личное сообщение
Victor G. Tsaregorodtsev
Эксперт
Эксперт


Зарегистрирован: 28 Июн 2005
Сообщения: 248
Откуда: Красноярск

СообщениеДобавлено: Сб Авг 28, 2010 3:36 pm    Заголовок сообщения: Ответить с цитатой

Опять повторяю совет покурить учебники.
Нейрон на пример - бред сивой кобылы, уж извините меня.

Сейчас нейросети (и бэкпроп в том числе) реализованы в каждом мощном статистическом или математическом пакете (Statistica, SPSS, Matlab, Mathematica,...) - это не считая самостоятельных нейросетевых пакетов/программ. Если бы ничего не работало - то в интернете стояли бы кучи воплей от студентов или пользователей этих пакетов. А стоит тишина... Значит, правильная программная реализация и правильный автоматический или полуавтоматический выбор настроек все проблемы решают.
_________________
neuropro.ru - нейронные сети, анализ данных, прогнозирование
Вернуться к началу
Посмотреть профиль Отправить личное сообщение Отправить e-mail Посетить сайт автора
Показать сообщения:   
Начать новую тему   Ответить на тему    Список форумов neuroproject.ru -> Нейронные сети Часовой пояс: GMT + 4
Страница 1 из 1

 
Перейти:  
Вы не можете начинать темы
Вы не можете отвечать на сообщения
Вы не можете редактировать свои сообщения
Вы не можете удалять свои сообщения
Вы не можете голосовать в опросах


Rambler's Top100 Rambler's Top100