Нейронные сети. Программирование

Автор работы: Пользователь скрыл имя, 27 Мая 2012 в 15:59, реферат

Описание работы

Нейрон – это узел нейронной сети, являющийся упрощённой моделью естественного нейрона. Математически, искусственный нейрон обычно представляют как некоторую нелинейную функцию от единственного аргумента — линейной комбинации всех входных сигналов. Данную функцию называют функцией активации или функцией срабатывания, передаточной функцией. Полученный результат посылается на единственный выход.

Содержание работы

Введение 3
Нейрон 5
Нейронная сеть 7
Классификации нейросетей 15
Отличия от машин с архитектурой фон Неймана 16
Заключение 17
Список используемой литературы: 18

Файлы: 1 файл

Нейронные сети.docx

— 91.35 Кб (Скачать файл)

Рассмотрим подробнее  некоторые из этапов.

Сбор данных для обучения

Выбор данных для обучения сети и их обработка является самым  сложным этапом решения задачи. Набор  данных для обучения должен удовлетворять  нескольким критериям:

  • Репрезентативность — данные должны иллюстрировать истинное положение вещей в предметной области;
  • Непротиворечивость — противоречивые данные в обучающей выборке приведут к плохому качеству обучения сети.

Исходные данные преобразуются  к виду, в котором их можно подать на входы сети. Каждая запись в файле  данных называется обучающей парой или обучающим вектором. Обучающий вектор содержит по одному значению на каждый вход сети и, в зависимости от типа обучения (с учителем или без), по одному значению для каждого выхода сети. Обучение сети на «сыром» наборе, как правило, не даёт качественных результатов. Существует ряд способов улучшить «восприятие» сети.

  • Нормировка выполняется, когда на различные входы подаются данные разной размерности. Например, на первый вход сети подается величины со значениями от нуля до единицы, а на второй — от ста до тысячи. При отсутствии нормировки значения на втором входе будут всегда оказывать существенно большее влияние на выход сети, чем значения на первом входе. При нормировке размерности всех входных и выходных данных сводятся воедино;
  • Квантование выполняется над непрерывными величинами, для которых выделяется конечный набор дискретных значений. Например, квантование используют для задания частот звуковых сигналов при распознавании речи;
  • Фильтрация выполняется для «зашумленных» данных.

Кроме того, большую роль играет само представление как входных, так и выходных данных. Предположим, сеть обучается распознаванию букв на изображениях и имеет один числовой выход — номер буквы в алфавите. В этом случае сеть получит ложное представление о том, что буквы  с номерами 1 и 2 более похожи, чем  буквы с номерами 1 и 3, что, в общем, неверно. Для того, чтобы избежать такой ситуации, используют топологию сети с большим числом выходов, когда каждый выход имеет свой смысл. Чем больше выходов в сети, тем большее расстояние между классами и тем сложнее их спутать.

Выбор топологии сети

Выбирать тип сети следует  исходя из постановки задачи и имеющихся  данных для обучения. Для обучения с учителем требуется наличие для каждого элемента выборки «экспертной» оценки. Иногда получение такой оценки для большого массива данных просто невозможно. В этих случаях естественным выбором является сеть, обучающаяся без учителя, например,  нейронная сеть Хопфилда. При решении других задач, таких как прогнозирование временных рядов, экспертная оценка уже содержится в исходных данных и может быть выделена при их обработке. В этом случае можно использовать сеть Ворда.

Экспериментальный подбор параметров обучения

После выбора конкретной топологии, необходимо выбрать параметры обучения нейронной сети. Этот этап особенно важен для сетей, обучающихся с учителем. От правильного выбора параметров зависит не только то, насколько быстро ответы сети будут сходиться к правильным ответам. Например, выбор низкой скорости обучения увеличит время схождения.  Увеличение момента обучения может привести как к увеличению, так и к уменьшению времени сходимости, в зависимости от формы поверхности ошибки. Исходя из такого противоречивого влияния параметров, можно сделать вывод, что их значения нужно выбирать экспериментально, руководствуясь при этом критерием завершения обучения.

Обучение сети

В процессе обучения сеть в  определенном порядке просматривает  обучающую выборку. Порядок просмотра  может быть последовательным, случайным  и т. д. Некоторые сети, обучающиеся без учителя, например, сети Хопфилда просматривают выборку только один раз. Другие, например, сети Кохонена, а также сети, обучающиеся с учителем, просматривают выборку множество раз, при этом один полный проход по выборке называется эпохой обучения. При обучении с учителем набор исходных данных делят на две части — собственно обучающую выборку и тестовые данные; принцип разделения может быть произвольным. Обучающие данные подаются сети для обучения, а проверочные используются для расчета ошибки сети (проверочные данные никогда для обучения сети не применяются). Таким образом, если на проверочных данных ошибка уменьшается, то сеть действительно выполняет обобщение. Если ошибка на обучающих данных продолжает уменьшаться, а ошибка на тестовых данных увеличивается, значит, сеть перестала выполнять обобщение и просто «запоминает» обучающие данные. Это явление называется переобучением сети. В таких случаях обучение обычно прекращают.

 

Классификации нейросетей

Классификация по типу входной  информации

    • Аналоговые нейронные сети (используют информацию в форме действительных чисел);
    • Двоичные нейронные сети (оперируют с информацией, представленной в двоичном виде).

Классификация по характеру  обучения

    • Обучение с учителем — выходное пространство решений нейронной сети известно;
    • Обучение без учителя — нейронная сеть формирует выходное пространство решений только на основе входных воздействий. Такие сети называют самоорганизующимися;
    • Обучение с подкреплением — система назначения штрафов и поощрений от среды.

Классификация по характеру  связей

    • Сети прямого распространения;
    • Сети с обратной связью;
    • Самоорганизующиеся карты

 

 

 

Отличия от машин  с архитектурой фон Неймана

Вычислительные системы, основанные на искусственных нейронных  сетях, обладают рядом качеств, которые  отсутствуют в машинах с архитектурой фон Неймана (но присущи мозгу  человека):

    • Массовый параллелизм;
    • Распределённое представление информации и вычисления;
    • Способность к обучению и обобщению;
    • Адаптивность;
    • Свойство контекстуальной обработки информации;
    • Толерантность к ошибкам;
    • Низкое энергопотребление.

 

Заключение

В ходе выполнения курсовой работы была изучена типология нейронных  сетей, и написана демонстрационная версия программы Neural Network Wizard, созданная на основе нейронной сети Кохонена.

 

Список используемой литературы:

  1. Круглов В. В., Борисов В. В.: «Искусственные нейронные сети. Теория и практика.»  1-е.  М.: Горячая линия - Телеком, 2001.  С. 382.
  2. Л.Н. Ясницкий: «Введение в искусственный интеллект.» 1-е.  Издательский центр "Академия", 2005. С. 176. 
  3. Беркинблит М. Б. «Нейронные сети.»  М.: МИРОС и ВЗМШ РАО, 1993. 96 с.
  4. Еремин Д.М., Гарцеев И.Б. «Искусственные нейронные сети в интеллектуальных системах управления.»  М.: МИРЭА, 2004.  75 с. 
  5. Терехов В.А., Ефимов Д.В., Тюкин И.Ю. «Нейросетевые системы управления.»  1-е.  Высшая школа, 2002.  С. 184.

 

Информация о работе Нейронные сети. Программирование