2. Робот должен повиноваться командам, которые ему дает человек, кроме  тех случаев, когда эти команды  противоречат первому закону.

     3. Робот должен заботиться о  своей безопасности, насколько это  не противоречит первому и  второму закону.

     На  первый взгляд подобные законы, при  их полном соблюдении, должны обеспечить безопасность человечества. Однако при  внимательном рассмотрении возникают  некоторые вопросы.

     Интересно, что будет подразумевать система искусственного интеллекта под термином «вред» после долгих логических размышлений? Не решит ли она, что все существования человека это сплошной вред? Ведь он курит, пьет, с годами стареет и теряет здоровье, страдает. Не будет ли меньшим злом быстро прекратить эту цепь страданий? Конечно, можно ввести некоторые дополнения, связанные с ценностью жизни, свободой волеизъявления. Но это уже будут не те простые три закона.

     Следующим вопросом будет такой. Что решит система искусственного интеллекта в ситуации, когда спасение одной жизни возможно только за счет другой? Особенно интересны те случаи, когда система не имеет полной информации о том, кто есть кто…

     Так что можно с уверенностью сказать, что опасения многих людей, в том  числе и ученых, не беспочвенны. И  определенно следует именно сейчас начинать продумывать эти вопросы, до того, как получится создать  полноценный «машинный интеллект», чтобы обезопасить человечество от возможного вреда или даже истребления, как конкурирующей, в лучшем случае, или просто ненужной биологической  разновидности. 

Искусственный интеллект. ЗА и ПРОТИВ

Противники  идеи о возможности создания искусственного разума часто сводят свои доводы к  тому, что работа ЭВМ управляется  законами  электродинамики, и, значит,  здесь происходит  сведение высшего (мышления)  к низшему (физическим  процессам в ЭВМ).  Однако неверна исходная посылка.

       Работа  ЭВМ отнюдь не управляется законами электродинамики.  Этими законами  управляется  работа отдельных  элементов машины. По  физическим законам ЭВМ работает  только   в   том   смысле,  что  она,  скажем, преобразует электрическую   энергию  в тепло.   Ведь сущность работы состоит не в  этом преобразовании,  а в том,   что она производит     определенные арифметико-логические  операции.   Машина  имеет дело с информацией и работает по законам преобразования информации, т.е. по законам кибернетики.  Поэтому, если рассматривать эти процессы с такой точки зрения то, неизбежно  оказываешься  на позициях  механицизма. Это то же самое,  что сведение работы мозга к биохимическим и биофизическим  процессам.

       С точки зрения кибернетики  работу ЭВМ  надо рассматривать как работу системы по  переработки  информации. Тезису искусственного интеллекта приписывается отрицание идеального характера сознания.

       Не касаясь вопроса  о структуре информации, представляющей собой  меру  упорядоченности  процесса и составляющей его внутреннее состояние, мы охарактеризуем внешнюю или относительную  информацию, всегда связанную с  отношением двух  процессов. Эта информация заключается не в самих процессах, а существует именно в отношении этих процессов друг к другу. Взятая сама  по  себе эта  информация  столь же  объективна и материальна,  как и  любые  другие  свойства и отношения объектов или процессов.

       Рассмотрев  множество состояний нашего  мозга в процессе  функционирования, можно понять, что мозг  отражает внешний мир, а значит,   между  множеством состояний элементов мозга и множеством состояний внешних процессов  имеется соответствие,  т.е.  мозг  имеет информацию  о внешних процессах.  Эта  информация  заключена  и не  заключена в мозгу, т.к.  сколько  бы  мы  ни исследовали мозг кроме электрических, химических и др.  характеристик нейронов мы там ничего не обнаружим. Необходимо рассмотреть связь

мозга  с  внешним  миром.  Именно  в  этом  и  заключена информация, носителем которой являются нейроны.

       Информация, с которой  работает  мозг и есть та идеальная сторона  в его  работе,  и таким образом идеальное не существует в виде особого предмета  или субстанции. Оно существует как    сторона   деятельности   мозга, заключающейся в установлении связей между множеством состояний  внешнего мира и  головного  мозга.

       Если  мы  признаем у кибернетических  систем    возможность достижения сложности, сравнимой со сложностью мозга, то  необходимо признать  у таких систем  существование у них черт, которые  мы называем идеальными.

         Ряд авторов  объявляет тезис искусственного интеллекта  противоречащим  тезису о социальной  природе сознания  и мышления. Но здесь  скрывается ошибка - отсутствие  различия   между  естественно историческим зарождением  мышления  и  сознательным воспроизведением его  человеком в  универсальной ЭВМ.  Во  втором случае машина не становится  социальным существом, но человек, поняв сущность мышления, воссоздает его в машине.  Если социальная  природа мышления закономерна  и  познаваема, то она  может    быть   в принципе  искусственно воспроизведена. Для этого кибернетическая система, имеющая  достаточную мощность,  для полного использования  своих возможностей должна быть помещена в информационно-богатую  среду, образовав      вместе с создателями   некий  симбиоз.    

         Принцип  невозможности  кибернетического интеллекта жестко привязывает определенный  род функционирования  к строго  определенному  субстрату   (мозгу). Это ставит философскую проблему соотношения  функции  и  субстрата.

       Именно  из-за этого "крайний  пессимист" отрицает  возможность наличия  интеллекта у кибернетического устройства. Он безоговорочно связывает мышление с человеческим  мозгом, и  не приемлет  попытки  определения мышления  без  связи  со структурой  мыслящей  системы. По его мнению, это есть сведение мышления только к информационной стороне, в то время как мышлением называют возникшую у биологических существ, способность. Таким образом, мышлением можно назвать то, что осуществляется  только  мозгом человека,   но это не  является   приемлемым решение проблемы.

         Разумеется, мышление есть функция  высокоорганизованной  материи   и  определено  структурой системы.  Но  с гносеологической  точки   зрения  знание функции выводится   из  знания  структуры,   а   знание структуры  является   выводом из  все более полного изучения способов функционирования.

       Конечно,  может  оказаться,  что эта структура жестко связана  со строго  определенным  субстратом, но  этот тезис  должен     являться результатом научного исследования, а не исходной предпосылкой.

         Пока   наука  имела дело  с непосредственно ощущаемыми  объектами, она могла исходить   из субстратной   точки   зрения,  суть которой заключается   в том,  что объект   обладает набором характеристик(- первичны), выражающим  его природу, зная которые можно изучить поведение(-вторично) объекта.

       Но  уже  в 19 веке ограниченность этой концепции  была вскрыта диалектическим материализмом, показавшим,  что "лишь  в движении  тело обнаруживает,  что  оно  есть. Познание  различных   форм  движения  и  есть познание тел".  (К. Маркс и Ф. Энгельс)

       Отсюда,  разумеется,  не следует,  что  только движение  существует и никакого  субстрата нет  вообще. Отсюда следует   лишь  неправомерность употребления отношения   первичности-вторичности для характеристики связи движения  (поведения)  и  субстрата в плане их реального существования.

       Из  вышесказанного можно заметить, что  большинство аргументов   против   возможности искусственного интеллекта,   основаны  на   имеющихся научных  теориях и эмпирических   данных, обычно  они состоят в указании   на какие-нибудь определенные действия мышления,   которые    неспособно   выполнить  никакое кибернетическое устройство.  Однако  многие из таких аргументов уже были опровергнуты  в ходе  развития  кибернетики. Более того,  существует  теорема Мак Каллока Питса сводящая вопрос о выполнении  любой функции головного  мозга к вопросу о познаваемости  этой  функции.

       Наиболее  разумной представляется более оптимистичная позиция, т.к. на данный момент нет  непреодолимых,   принципиальных  преград на пути создания искусственных устройств, обладающих интеллектом.  Но на  этом пути стоят огромные трудности, отнюдь не уменьшающиеся с бурным развитием кибернетики. Здесь особенно важна выработка новых концептуальных, философских теорий, т.к. ускорение технических средств обработки информации или создание нейронных сетей, копирующих биохимическое состояние мозга  еще не ведет к возникновению искусственного разума, а является лишь средством воплощения идеи.   
 
 

Проблема  создания искусственного интеллекта 

     Тест  Тьюринга

     С 1991 года проводятся турниры программ, пытающихся пройти тест Тьюринга. Пока ещё эти программы (боты) крайне мало – разумны. Всё, что они делают – это применяют заранее подсказанные человеком правила. Осмыслить разговор боты даже не пытаются, в основном совершают попытки «обмануть» человека. Создатели закладывают в них ответы на наиболее часто задаваемые вопросы, стараются обойти распространенные ловушки. Например, внимательно следят, а не задаст ли судья один и тот же вопрос дважды? Человек в такой ситуации сказал бы что-то вроде: «Эй, ты уже спрашивал»! Значит, разработчик добавит боту правило тоже так поступать. В этом направлении представляется очень маловероятным, что появится первый искусственный интеллект. 

     Компьютерные  шахматисты

     Об  этих программах слышали многие. Впервые  чемпионат мира по шахматам между  компьютерными программами прошел в 1974 году. Победителем стала советская  шахматная программа «Каисса». Не так давно компьютер обыграл  и Гарри Каспарова. Что же это – несомненный успех?

     Они просто перебирают множество вариантов. Если я подвину эту пешку сюда, а противник сходит слоном вот  сюда, а я сделаю рокировку, а он подвинет вот эту пешку… Нет, такая позиция невыгодна. Не буду делать рокировку, а вместо этого посмотрю, что случится, если я подвину эту пешку сюда, а компьютер сходит слоном вот сюда, а я вместо рокировки подвину пешку еще раз, а он…

     Компьютер ничего не изобретает сам. Все возможные  варианты подсказаны настоящими обладателями интеллекта – талантливыми программистами и шахматистами-консультантами… Это не менее далеко от создания полноценного электронного интеллекта. 

     Футбол  роботов

     Это очень модно. Этим занимаются многие лаборатории и целые факультеты ВУЗов по всему миру. Проходят десятки  чемпионатов по разным разновидностям этой игры. Как говорят организаторы турнира RoboCup, «Международным сообществом специалистов по искусственному интеллекту задача управления роботами-футболистами признана одной из важнейших».

     Очень может быть, что, как мечтают организаторы RoboCup, в 2050 году команда роботов и впрямь обыграет в футбол команду людей. Только их интеллектуальность вряд ли к этому будет иметь какое-то отношение. 

     Турниры программистов

     Недавно фирма Microsoft проводила турнир под названием «Террариум». Программистам предлагалось создавать искусственную жизнь, не больше и не меньше. Это, наверное, самое известное из подобных соревнований, а вообще их проводится очень много – энтузиасты-организаторы с завидной регулярностью предлагают создавать программы, играющие то в войну роботов, то в колонизацию Юпитера. Бывают даже соревнования по выживанию среди компьютерных вирусов.

     Что же мешает хотя бы этим проектам служить  созданию настоящего искусственного интеллекта, который в будущем сможет и воевать, и Юпитер колонизировать? Одно простое слово – непродуманность. Даже могучие умы Microsoft не смогли придумать правила, в которых сложное поведение выгодно. Что уж говорить об остальных. Что ни турнир – а все побеждает одна и та же тактика: «чем проще – тем лучше»! Кто победил в «Террариуме»? Наши соотечественники. А что они сделали? Вот полный перечень тех правил, по которым жило самое жизнеспособное виртуальное травоядное турнира;

     1. Если видишь хищника, убегай  в сторону от него. Если видишь  животное своего вида, быстро  бегущее в какую-то сторону,  беги туда же.

     2. Если вокруг только чужие, быстро-быстро ешь всю траву, чтобы другим поменьше досталось.

     3. Если не видишь чужих, ешь  её ровно столько, сколько надо. Наконец, если ни травы, ни  хищников не видишь, иди куда глаза глядят.

     Интеллектуально? Нет, зато эффективно. 

     Коммерческие  применения

     В коммерчески значимых областях не нужно  никаких турниров, никаких судей, никаких правил отбора. Ни в распознавании  текстов, ни в создании компьютерных игр высокая наука оказалась  просто не нужна.