|
neuroproject.ru
Форум сайта компании НейроПроект
|
| Предыдущая тема :: Следующая тема |
| Автор |
Сообщение |
Crazzy
Новый посетитель
Зарегистрирован: 01 Июл 2005
Сообщения: 1
|
 Добавлено: Пт Июл 01, 2005 1:44 pm Заголовок сообщения: Применение нейросетей для сжатия данных |
 |
|
| Подскажите plz, возможно ли с помощью нейросетей сжимать данные без потерь. Если да, то как конкретно? Буду признателен за ссылочку |
|
| Вернуться к началу |
|
 |
Oleg Agapkin
Администратор
Зарегистрирован: 10 Июн 2005
Сообщения: 112
Откуда: Москва
|
| Добавлено: Сб Июл 02, 2005 5:09 pm Заголовок сообщения: Нейросетевое сжатие данных |
|
|
| Цитата: | | Подскажите plz, возможно ли с помощью нейросетей сжимать данные без потерь. Если да, то как конкретно? |
Не знаю, как насчет "без потерь"... Проблема в том что нейросеть на сегодняшний момент - это некий математический алгоритм (в общем аналоговый), "заточенный" на автоассоциативное применение. Известно также, что нейронные сети, относительно хорошо справляясь с задачами обобщения, в абсолютном значении дают не очень точные ответы. Попробуйте провести самый простой эксперимент и научить сеть реализовывать какую-нибудь простую функцию (например, умножать два числа). Даже если данные быди "рыхлыми", сеть обучится более-менее сносно правильно умножать, но точность при этом абсолютной не будет (умножив 3 на 4 она может выдать ответ 12.03).
В общем, "фишка" нейросетей не в точной работе, а в способности обобщения. Сеть, обучаясь на примерах, подстраивается под задачу.
С другой стороны, есть же какие-то применения нейросетей для сжатия текста. К сожалению, я серьезно с этими работами не знаком. Можно в google поискать. Сам после отпуска посмотрю какие-нибудь статьи. Сложно себе представить, что кому-то нужен компрессор текста, который после декомпрессии его искажает.
Если же вас устраивает относительно небольшая потеря данных, то здась никаких проблем нет - автоассоциативная память используется очень широко и дает хорошие результаты.
Коротко принцип работы такой.
Пусть имеется набор данных размерности N. Тогда создаем сеть, в которой входной и выходной слои будут иметь N нейронов.
Устанавливаем в скрытом слое (или в одном из скрытых слоев) M нейронов (N~M) и тренируем сеть так, чтобы она воспроизводила на выходе входные значения. Если все нормально и сеть научилась достаточно точно воспроизводить, начинаем, уменьшая M (к примеру методом "вилки"), решать ту же самую задачу. При этом, при прохождении данных через этот скрытый слой, размерность данных падает от N до M. И так до тех пор, пока при некотором M* ошибка воспроизведения перестанет удовлетворять (начнет расти). Это значит, что M* и есть реальная размерность начальных данных. Теперь можно подавая на вход данные (размерность N), снимать с этого скрытого слоя "отображение" этих данных в пространство меньшей размерности (M*<N).
Последний раз редактировалось: Oleg Agapkin (Сб Июл 02, 2005 6:27 pm), всего редактировалось 1 раз |
|
| Вернуться к началу |
|
|
Spin
Новый посетитель
Зарегистрирован: 24 Июн 2005
Сообщения: 15
|
| Добавлено: Сб Июл 02, 2005 6:23 pm Заголовок сообщения: Re: Нейросетевое сжатие данных |
|
|
| Oleg Agapkin писал(а): | | ... есть же какие-то применения нейросетей для сжатия текста. ... Сложно себе представить, что кому-то нужен компрессор текста, который после декомпрессии его искажает. |
Почему же, если он искажает текст, мало изменяя смысл и при этом декомпрессированный текст соответствут лингвистическим нормам, то это даже очень интересное применение. Причем это задача как раз под нейронные сети. Если попадется информация о подобых наработках, обязательно поделитесь |
|
| Вернуться к началу |
|
|
Dart
Новый посетитель
Зарегистрирован: 04 Сен 2006
Сообщения: 1
Откуда: Байконур, Казахстан
|
| Добавлено: Пн Сен 04, 2006 10:04 pm Заголовок сообщения: Re: Нейросетевое сжатие данных |
|
|
| Spin писал(а): | | Oleg Agapkin писал(а): | | ... есть же какие-то применения нейросетей для сжатия текста. ... Сложно себе представить, что кому-то нужен компрессор текста, который после декомпрессии его искажает. |
Почему же, если он искажает текст, мало изменяя смысл и при этом декомпрессированный текст соответствут лингвистическим нормам, то это даже очень интересное применение. Причем это задача как раз под нейронные сети. Если попадется информация о подобых наработках, обязательно поделитесь |
Ну, вряд ли современные нейросети способны на такое  . Это уже работа скорее для искусственного интеллекта, если он будет когда-нибудь создан...
2 Oleg Agapkin Не могли бы вы подсказать какую-нибудь литературу по сжатию данный нейросетями, где это было бы поподробнее расписано, а не на уровне "применяется для сжатия изображений и в системах телекоммуникации..." |
|
| Вернуться к началу |
|
|
Eugeen
Эксперт
Зарегистрирован: 15 Ноя 2005
Сообщения: 66
Откуда: Москва
|
|
| Вернуться к началу |
|
|
Commander Keen
Новый посетитель
Зарегистрирован: 12 Окт 2006
Сообщения: 5
|
| Добавлено: Ср Ноя 15, 2006 6:56 pm Заголовок сообщения: Re: Применение нейросетей для сжатия данных |
|
|
а чё вы зациклились на сжатии текстовой информации? автор вроде спрашивал вообще
для сжатия же медиа-информации такая высокая точность не нужна |
|
| Вернуться к началу |
|
|
Commander Keen
Новый посетитель
Зарегистрирован: 12 Окт 2006
Сообщения: 5
|
| Добавлено: Ср Ноя 15, 2006 8:11 pm Заголовок сообщения: |
|
|
а вот русскоязычные ресурсы на эту тему найти проблематично..
кстати, может быть кто-то занимался фрактальным сжатием информации..? есть идеи как связать это ещё и с нейросетями? |
|
| Вернуться к началу |
|
|
Victor G. Tsaregorodtsev
Эксперт
Зарегистрирован: 28 Июн 2005
Сообщения: 114
Откуда: Красноярск
|
| Добавлено: Чт Ноя 16, 2006 10:52 am Заголовок сообщения: |
|
|
| Commander Keen писал(а): | | кстати, может быть кто-то занимался фрактальным сжатием информации..? есть идеи как связать это ещё и с нейросетями? |
Где-то встречалось что-то про реализацию нейросетевой IFS (системы итеративных функций - именно СИФами порождаются многие знаменитые фрактальные картинки типа листа папоротника), но подробностей не помню
_________________
www.neuropro.ru - нейросети, анализ данных, прогнозирование |
|
| Вернуться к началу |
|
|
|
|
Вы не можете начинать темы
Вы не можете отвечать на сообщения
Вы не можете редактировать свои сообщения
Вы не можете удалять свои сообщения
Вы не можете голосовать в опросах
|
|
FAQ
Поиск
Пользователи
Группы
Регистрация
Профиль
Войти и проверить личные сообщения
Вход
