|
neuroproject.ru
Форум сайта компании НейроПроект
|
| Предыдущая тема :: Следующая тема |
| Автор |
Сообщение |
Victor G. Tsaregorodtsev
Эксперт
Зарегистрирован: 28 Июн 2005
Сообщения: 114
Откуда: Красноярск
|
 Добавлено: Пт Фев 24, 2006 2:41 pm Заголовок сообщения: Поправки к книге Саймона Хайкина |
 |
|
Понемножку, когда более интересных занятий нет, читаю свежепереведенную библию Хайкина "Нейронные сети: полный курс". Список замеченных опечаток и неточностей начал выкладывать на страничку www.neuropro.ru/memo41.shtml
Три первые главы и начало четвертой откомментированы, остаток четвертой главы и библиографию сделаю в ближайшую неделю. О скорости дальнейшей работы никаких обещаний давать не буду - за полтора месяца нерегулярного чтения добрался только до середины пятой главы.
Желающие из числа владельцев и читателей Хайкина могут присоединяться - присылайте не замеченные мной баги и поправки к моим поправкам
_________________
www.neuropro.ru - нейросети, анализ данных, прогнозирование |
|
| Вернуться к началу |
|
 |
Eugeen
Эксперт
Зарегистрирован: 15 Ноя 2005
Сообщения: 66
Откуда: Москва
|
| Добавлено: Пт Авг 17, 2007 9:16 pm Заголовок сообщения: Re: Поправки к книге Саймона Хайкина |
|
|
| Victor G. Tsaregorodtsev писал(а): | Понемножку, когда более интересных занятий нет, читаю свежепереведенную библию Хайкина "Нейронные сети: полный курс". Список замеченных опечаток и неточностей начал выкладывать на страничку www.neuropro.ru/memo41.shtml
Три первые главы и начало четвертой откомментированы, остаток четвертой главы и библиографию сделаю в ближайшую неделю. О скорости дальнейшей работы никаких обещаний давать не буду - за полтора месяца нерегулярного чтения добрался только до середины пятой главы.
Желающие из числа владельцев и читателей Хайкина могут присоединяться - присылайте не замеченные мной баги и поправки к моим поправкам |
Я долго пыталя найти подтверждение этой поправки:
"С.279 первое предложение второго абзаца. Бред переводчиков про "загрузку данных" нужно поменять на предложение наподобие такого: "Обычно причиной переобучения является использование бОльшего количества скрытых нейронов, чем действительно необходимо". Но и это утверждение остается спорным - см. статью Бартлетта [97], упомянутую в сноске на с.160 как раз по поводу бОльшего влияния свойств синапсов на обобщение, чем избыточности структуры сети."
И вот сейчас сам убедился в ее справедливости. Эксперименты с нейросетевыми методами для гидродинамики, которые я провожу, показали что модулярные НС ( привожу определение:
"Modular feedforward networks are a special class of MLP. These networks process their input using several parallel MLPs, and then recombine the results. This tends to create some structure within the topology, which will foster specialization of function in each sub-module. This panel allows you to specify the number of hidden layers, and the network topology. There are four modular topologies supported by the NeuralBuilder. To choose one, simply press the corresponding button.
In contrast to the MLP, modular networks do not have full interconnectivity between their layers. Therefore, a smaller number of weights are required for the same size network (i.e. the same number of PEs). This tends to speed up training times and reduce the number of required training examplars. There are many ways to segment a MLP into modules. It is unclear how to best design the modular topology based on the data. There are no guarantees that each module is specializing its training on a unique portion of the data."),
дают удивительно более точную и компактную реализацию чем MLP!
В примерах, которые я постил в: http://www.neuroproject.ru/forum/viewtopic.php?t=2132
это проявляется особенно четко!
_________________
Мелочи не играют решающей роли. Они решают все.
"Жизнь среди акул", Х. Маккей. |
|
| Вернуться к началу |
|
|
|
|
Вы не можете начинать темы
Вы не можете отвечать на сообщения
Вы не можете редактировать свои сообщения
Вы не можете удалять свои сообщения
Вы не можете голосовать в опросах
|
|
FAQ
Поиск
Пользователи
Группы
Регистрация
Профиль
Войти и проверить личные сообщения
Вход
