Искусственные нейронные сети (ИНС)

   ФЕДЕРАЛЬНОЕ АГЕНТСТВО ПО ОБРАЗОВАНИЮ

   ГОСУДАРСТВЕННОЕ ОБРАЗОВАТЕЛЬНОЕ УЧРЕЖДЕНИЕ ВЫСШЕГО  ПРОФЕССИОНАЛЬНОГО ОБРАЗОВАНИЯ

   «ВОРОНЕЖСКИЙ  ГОСУДАРСТВЕННЫЙ УНИВЕРСИТЕТ» 
 
 
 
 

   Экономический факультет 

   Кафедра финансов и кредита 
 

реферат по дисциплине 

«КОМПЬЮТЕРНЫЕ ТЕХНОЛОГИИ В НАУКЕ» 

   «Искусственные  нейронные сети (ИНС)» 
 
 
 
 
 
 
 
 

   Студенты 6 курса магистратуры                                              оооооо

   «Финансовый менеджмент»                                                      

   Научный руководитель

   к.э.н.,  доц.                                                                           Орлова О. В. 
 
 
 
 
 
 

   Воронеж 2010 
 
 
 
 

ВВЕДЕНИЕ  В НЕЙРОННЫЕ СЕТИ

Иску́сственные  нейро́нные се́ти (ИНС) — математические модели, а также их программные или аппаратные реализации, построенные по принципу организации и функционирования биологических нейронных сетей — сетей нервных клеток живого организма. Это понятие возникло при изучении процессов, протекающих в мозге, и при попытке смоделировать эти процессы. Первой такой попыткой были нейронные сетиМаккалока и Питтса ^[1]. Впоследствии, после разработки алгоритмов обучения, получаемые модели стали использовать в практических целях: в задачах прогнозирования, дляраспознавания образов, в задачах управления и др.

ИНС представляют собой систему соединённых и взаимодействующих между собой простых процессоров (искусственных нейронов). Такие процессоры обычно довольно просты, особенно в сравнении с процессорами, используемыми в персональных компьютерах. Каждый процессор подобной сети имеет дело только с сигналами, которые он периодически получает, и сигналами, которые он периодически посылает другим процессорам. И тем не менее, будучи соединёнными в достаточно большую сеть с управляемым взаимодействием, такие локально простые процессоры вместе способны выполнять довольно сложные задачи.

С точки  зрения машинного обучения, нейронная сеть представляет собой частный случай методов распознавания образов,дискриминантного анализа, методов кластеризации и т. п. С математической точки зрения, обучение нейронных сетей — этомногопараметрическая задача нелинейной оптимизации. С точки зрения кибернетики, нейронная сеть используется в задачахадаптивного управления и как алгоритмы для робототехники. С точки зрения развития вычислительной техники и программирования, нейронная сеть — способ решения проблемы эффективного параллелизма^[2]. А с точки зрения искусственного интеллекта, ИНС является основой философского течения коннективизма и основным направлением в структурном подходе по изучению возможности построения (моделирования) естественного интеллекта с  помощью компьютерных алгоритмов.

Нейронные сети не программируются в привычном смысле этого слова, они обучаются. Возможность обучения — одно из главных преимуществ нейронных сетей перед традиционными алгоритмами. Технически обучение заключается в нахождении коэффициентов связей между нейронами. В процессе обучения нейронная сеть способна выявлять сложные зависимости между входными данными и выходными, а также выполнять обобщение. Это значит, что в случае успешного обучения сеть сможет вернуть верный результат на основании данных, которые отсутствовали в обучающей выборке, а также неполных и/или «зашумленных», частично искаженных данных.

ИСТОРИЯ  НЕЙРОННЫХ СЕТЕЙ

      На  заре развития  электронно-вычислительной  техники  в середине ХХ века   среди  ученых и конструкторов  еще не существовало  единого  мнения ок том, как должна  быть реализована  и по какому принципу работать   типовая электронно-вычислительная машина. Это сейчас  мы с Вами  изучаем   в курсах Основ информатики  архитектуру  машины фон Неймана, по которой  построены практически  все существующие сегодня компьютеры. При  этом в тех же учебниках  ни слова не говорится о том, что  в те же годы были предложены принципиально  иные   архитектуры и принципы действия  компьютеров.  Одна из таких  схем  получила название нейросетевого компьютера, или просто нейросети.

 Первый интерес к  нейросетям был обусловлен пионерской работой  МакКаллока и Питса, изданной в 1943 году, где предлагалась схема компьютера, основанного на аналогии с работой  человеческого мозга.  Они создали  упрощенную модель нервной клетки –  нейрон.  Мозг человека состоит из  белого  и серого веществ: белое – это тела нейронов, а серое – это соединительная ткань между нейронами, или аксоны и дендриты.   Мозг состоит примерно из 10¹¹ нейронов, связанных между собой.  Каждый нейрон  получает информацию через свои дендриты, а передает ее дальше  только через единственных аксон, разветвляющийся на конце на тысячи   синапсов (см. рис. 1).

Простейший  нейрон может   иметь до 10000 дендритов, принимающих сигналы от других клеток.   Таким образом,   мозг  содержит примерно 10¹⁵  взаимосвязей. Если учесть,  что любой нейрофизиологический процесс активизирует   сразу множество нейронов, то можно   представить себе то количество информации или сигналов, которое возникает в мозгу.  

      Нейроны  взаимодействуют посредством   серий импульсов, длящихся  несколько  миллисекунд, каждый импульс представляет собой   частотный сигнал с  частотой  от нескольких единиц до сотен  герц.  Это  невообразимо  медленно по сравнению  с современными   компьютерами, но в тоже время  человеческий мозг гораздо быстрее  машины может обрабатывать аналоговую информацию, как-то: узнавать изображения, чувствовать вкус, узнавать звуки,  читать чужой почерк, оперировать качественными параметрами.  Все это реализуется посредством сети нейронов, соединенных между собой  синапсами.  Другими словами,  мозг -–это система  из параллельных процессоров, работающая гораздо эффективнее, чем  популярные сейчас  последовательные вычисления.

      Кстати  говоря, недавно в одном из журналов я читал, что технология последовательных вычислений подошла к пределу  своих технических возможностей, и  в настоящее время остро  стоит проблема  развития методов  параллельного программирования и  создания параллельных компьютеров.  Так что,  может быть, нейросети  являются только очередным шагом  в этом направлении.  

ИЗВЕСТНЫЕ ПРИМЕНЕНИЯ

Распознавание образов и классификация

Основные  статьи: Распознавание образов (кибернетика), Задача классификации

В качестве образов могут выступать различные  по своей природе объекты: символы  текста, изображения, образцы звуков и т. д. При обучении сети предлагаются различные образцы образов с указанием того, к какому классу они относятся. Образец, как правило, представляется как вектор значений признаков. При этом совокупность всех признаков должна однозначно определять класс, к которому относится образец. В случае, если признаков недостаточно, сеть может соотнести один и тот же образец с несколькими классами, что неверно ^[9]. По окончании обучения сети ей можно предъявлять неизвестные ранее образы и получать ответ о принадлежности к определённому классу.

Топология такой сети характеризуется тем, что количество нейронов в выходном слое, как правило, равно количеству определяемых классов. При этом устанавливается  соответствие между выходом нейронной  сети и классом, который он представляет. Когда сети предъявляется некий  образ, на одном из её выходов должен появиться признак того, что образ  принадлежит этому классу. В то же время на других выходах должен быть признак того, что образ данному  классу не принадлежит^[10]. Если на двух или более выходах есть признак принадлежности к классу, считается что сеть «не уверена» в своём ответе.

Принятие  решений и управление

Эта задача близка к задаче классификации. Классификации подлежат ситуации, характеристики которых поступают на вход нейронной  сети. На выходе сети при этом должен появиться признак решения, которое  она приняла. При этом в качестве входных сигналов используются различные  критерии описания состояния управляемой  системы^[11].

Кластеризация

Основная  статья: Кластеризация

Под кластеризацией понимается разбиение множества  входных сигналов на классы, при  том, что ни количество, ни признаки классов заранее не известны. После  обучения такая сеть способна определять, к какому классу относится входной  сигнал. Сеть также может сигнализировать  о том, что входной сигнал не относится  ни к одному из выделенных классов — это является признаком новых, отсутствующих в обучающей выборке, данных. Таким образом, подобная сеть может выявлять новые, неизвестные ранее классы сигналов. Соответствие между классами, выделенными сетью, и классами, существующими в предметной области, устанавливается человеком. Кластеризацию осуществляют, например, нейронные сети Кохонена.

Нейронные сети в простом варианте Кохонена не могут быть огромными поэтому  их делят на гиперслои (гиперколонки) и ядра (микроколонки). Если сравнивать с мозгом человека то идеальное количество параллельных слоёв не должно быть более 112. Эти слои в свою очередь составляют гиперслои (гиперколонку), в которой от 500 до 2000 микроколонок (ядер). При этом каждый слой делится на множество гиперколонок пронизывающих насквозь эти слои. Микроколонки кодируются цифрами и единицами с получением результата на выходе. Если требуется, то лишние слои и нейроны удаляются или добавляются. Идеально для подбора числа нейронов, и слоёв использовать суперкомпьютер. Такая система позволяет нейронным сетям быть пластичной.

Прогнозирование

Основная  статья: Прогнозирование

Способности нейронной сети к прогнозированию  напрямую следуют из ее способности  к обобщению и выделению скрытых  зависимостей между входными и выходными  данными. После обучения сеть способна предсказать будущее значение некой  последовательности на основе нескольких предыдущих значений и/или каких-то существующих в настоящий момент факторов. Следует отметить, что  прогнозирование возможно только тогда, когда предыдущие изменения действительно в какой-то степени предопределяют будущие. Например, прогнозирование котировок акций на основе котировок за прошлую неделю может оказаться успешным (а может и не оказаться), тогда как прогнозирование результатов завтрашней лотереи на основе данных за последние 50 лет почти наверняка не даст никаких результатов.