В ПОИСКАХ ИСКУССТВЕННОГО ИНТЕЛЛЕКТА

ЭФРАИМ БАУХ

В ПОИСКАХ ИСКУССТВЕННОГО ИНТЕЛЛЕКТА

Начало Третьего тысячелетия ворвалось воистину апокалипсической эйфорией, жаждущей прорваться в мир искусственного интеллекта – Artificial Intelligence (искусственного мышления). Потрясали слова известного специалиста по электронной инженерии Эдуарда Фрадкина: «Есть три великих события в истории. Первое – сотворение мира (вселенной). Второе – явление жизни. А третье событие, которое, по моему мнению, равно по важности двум первым, это явление искусственного мышления. Это совершенно иная форма жизни, возможности которой в интеллектуальных достижениях мы даже не можем себе представить. Машины эти будут развиваться. Несколько мудрых компьютеров создадут новые компьютеры, и они будут всё умнее и умнее. Вопрос в том, где это оставит нас? Трудно вообразить положение, когда будет машина в миллион раз умнее человека, самого умного, но, при этом, останется нашей рабыней, исполняющей все наши желания. Машины эти могут обрести высокомерие и перестать с нами разговаривать, любить играть в наши любимые игры и в определенном смысле держать нас как симпатичных зверей». При всем впечатлении, которое произвел на меня тогда этот текст, я все же задумался: истинно ли это? Или мыслящая машина, это то же, что улыбающийся электрон. Абсурд? Возникали вопросы. Сможет ли компьютер действовать по свободной воле? Будет ли у него сознание? Можно ли себе представить, что психологические и нейрофизиологические исследования в конце концов обнаружат, что мы не что иное – как компьютеры?  В течение прошедших почти двадцати лет, казалось, это увлечение или, скорее, влечение слегка ослабело.  Однако, в приближающемся уже к концу, нынешнем 2019, Би-Би-Си выпустило восьмисерийный фильм «Символы. Величайшие личности Двадцатого века». Первым выбрана воистину легендарная личность – великий математик и специалист по шифрам и кодам Алан Тьюринг.  Охочие до скандалов, многомиллионные массы людей в мире, знают о нем лишь одно: был гомосексуалистом. Англичане – в те дни твердолобые пуритане – присудили его к принудительному унизительному «лечению». Не желая подвергаться такому унижению, да и страданию – гормональному лечению, разрушающему половые клетки, Тьюринг окунул яблоко в цианистый калий, надкусил это яблоко и скончался. Так Британия, да и весь мир, потеряли истинного «пророка» в компьютерной области. Ближе к нашим дням другой компьютерный гений Стив Джобс, благословенной памяти, создал компьютерную программу «Эйпл» (Яблоко), также известную, как «Макинтош». Миллионы пользователей и не задумываются над знаком-символом этой, так же прославленной в мире, программы. Какое к ней имеет отношение «Яблоко», да еще надкусанное. А это Стив Джобс увековечил печальную память предтечи – компьютерного гения Алана Тьюринга, в столь раннем возрасте 42 лет, в 1954 году, покончившего жизнь самоубийством. Тьюринг, по сути, создатель философии искусственного мышления. Теоретические работы Тьюринга по взлому немецких шифров во  время Второй мировой войны настолько опередили свое время, что секретная служба Великобритании передала их в архив лишь в 2012 году.                              Тьюринг еще в 1936 году – за пять лет до двух ученых Пенсильванского университета Джона Уильяма Мокли (Mauchly) и Джона Преспера Эккерта, создавших в 1942 первый в мире компьютер (ЭНИАК), начал строить свой компьютер. Он писал: «…Главная проблема – в абстрактных задачах математической логики». Алан Тьюринг заложил основы программирования. Решая эту проблему, он сумел создать основу компьютера, умеющего «складировать» программы.  Тьюринг расшифровал код немецкого военного главного командования и, благодаря этому, союзники впрямую имели доступ к секретной информации противника. В 1942 году группа расшифровщиков в Блечли расшифровывала 50 тысяч сообщений в месяц – одно в минуту. Союзники подробно знали о намерениях немцев и, главное, о направлении или изменении направления главного удара. «Машина Тьюринга» при работе издавала стук. Ей и дали название - «бомба Тьюринга». Он писал: «Несколько лет я занимался исследованием теоретических возможностей ограниченных цифровых компьютеров… Я думал о машине с центральной системой (аппаратом) и бесконечной памятью, приводимой в действие бесконечной бумажной лентой. Пример такой универсальной машины я описал в статье о числах, поддающихся компьютеризации…»   Другой великий математик и компьютерный гений – из когорты венгерских евреев – Нобелевских лауреатов, которого в научных кругах считают вторым по гениальности после Альберта Эйнштейна и «отцом» современного, знакомого каждому из нас, компьютера, – Джон Фон Нойман (Fon Newman), как пишет беседовавший с ним Стенли Френкель, признавал важность упомянутой мной выше  статьи Тьюринга (1936), считая, что именно она определила основы универсальных компьютеров, тем самым давая понять, что себя он считает лишь «акушером», а оригинальные базисные понятия открыл и заложил Тьюринг. Но всё упирается в неодолимую, непробиваемую стену между двумя мирами – органическим и неорганическим, стену, на преодоление которой все положения Тьюринга не дают ответа: могут ли компьютерные машины мыслить? Да, они кажутся хитрыми, но, все же, достаточно примитивными для истинного подхода к решению такой, кажущейся невероятной, неподъемной проблемы.  Сам Тьюринг считал, что лучший (вероятно, единственный) путь обучить машину «чувствам» – это дать ей «соответствующее хорошее образование». Энергичный и дерзкий в науке Джон Фон Ньюмен, о котором коллеги говорили, что только человек, родившийся в Будапеште, может зайти за тобой в вертящуюся дверь и выйти раньше тебя, даже он, сделавший столь много для дизайна компьютера, заложивший основы компьютерной архитектуры на многие поколения – именно, потому современный стандартный компьютер называют «машиной Фон Ноймана» – не   сумел пробить вышеозначенную стену.  Правда, он разработал программу по исследованию искусственного интеллекта JOHNNIA, взяв за основу программу трех великих пионеров в области искусственного интеллекта Алана Невиля, Клифа Шоу и Герберта Саймона (Allan Newell, Cliff Shaw, Herbert Simon), назвав ее – «Логический  теоретик». Эти трое пытались научить компьютер логически мыслить, подобно человеческому разуму. Программу GPS «троица» характеризует, как «повторяющую путь человеческого мышления – изучает проблему, как человек, естественно, несколько ограничено». Далее, с явной дерзостью, они продолжают: «Свободное поведение умного человека может быть объяснимо, как группа  законов, сложных, но окончательно и четко определенных». Другими словами, мы сами тоже компьютеры. Первая их программа – доказательство геометрических задач на уровне школы, не получилась. Они попытались создать программу логического нахождения доказательства логических предложений и, воистину, напали на золотую жилу. Пятьдесят две теоремы чистой логики еще в начале Двадцатого века систематизировали Бертран Рассел и Альфред Норт Уайтхед в книге «Mathematica. Principia». Тридцать восемь из этих теорем троица – Невиль, Шоу и Саймон – ввела в программу.   Одно из доказательств было преподнесено компьютером даже более элегантно, чем у Рассела, и вызвало истинное восхищение Шоу. Он сказал: «Это придало сверкание молнии всему этому делу». Интенсивность работ по искусственному интеллекту росла на глазах.   Артур Самюэль создал программу игры в шашки (вообще игр на досках).  Машина быстро училась у себя самой. Самюэль ввел в компьютер две копии программы и дал им свободу играть друг против друга. Программа стала побеждать чемпионов без единой ошибки. Огромное достижение Самюэля в том, что он сумел ввести в компьютер команды, которые позволили машине делать больше операций (ходов), чем создатель смог ей дать. И порожденный Самюэлем «Франкенштейн» обыграл создателя еще в пятидесятые годы. Можно себе представить ошеломление Творца от бессилия обыграть свое творение.           Джон Макартни создал программу LISP. По сути дела, именно, с этой программы началось изучение искусственного мышления, и создана была система разделения времени: компьютер снабжал информацией одновременно многие компьютеры.                                                                                К.М.Колби (Colby) создал компьютер для изучения паранойи – искусственного безумия, этакую «Параноидальную программу» (K.M.Colby. «Modeling a Paranoid Mind – Artificial Paranoia»).                                                                                    Вайзенбаум (Weizenbaum), в прошлом компьютерный наркоман, так описывает портрет одержимого компьютером: «В любом месте, где центры компьютеров для индивидуального потребителя, молодые люди, блестящие умы, с диким внешним видом, с глазами, сверкающими и погруженными в себя, сидят напротив компьютерных экранов. Руки их напряжены, пальцы готовы стучать по клавишам, на которые они глядят с горячечным воодушевлением, как одержимый игрок смотрит на кубики, кости, карты, выбрасываемые на стол. Когда они не загипнотизированы, их можно видеть сидящими в ожидании ответов, выбрасываемых компьютерами, которые они изучают, как священную тайну Торы, как редчайший каббалистический текст. Они работают до полного изнеможения, по 20-30 часов. Питаются скудно (сэндвичи, кола, кофе). Если возможно, спят на матрацах у компьютеров, но недолго. И тут же возвращаются к компьютерам или к выпущенным файлам. Одежды их измяты, бороды всклокочены, лица немыты, волосы грязны. Они не заботятся о теле, и об окружающем их мире. Таковы эти одержимые программисты. Их нельзя обманывать. Обнаружив даже намек на насмешку, они замыкаются и порывают с окружением. Поэтому обслуживающие их работники ведут себя с ними особенно деликатно». Вайзенбаум сконструировал «диагностирующий» компьютер «Психолог Элиза» (Элайза). Вокруг него поднялся большой шум. Дошло до того, что некоторые психиатры захотели им пользовать своих пациентов. Более того, психиатрический журнал «Journal of Nervous and Mental» возгласил, что в момент, когда машина будет готова к клиническому использованию, «она поставит способы лечения, которые широко будут внедрены в больницы… Компьютерные системы будут лечить сотни пациентов в час». Вайзенбаум испугался. Он пишет: «Я не мог себе представить, что открытие относительно простой компьютерной программы может привести к иллюзорному мышлению у нормальных людей». Это говорит об опасной склонности в обществе, готовом, и даже с воодушевлением, передать судьбу человеческого рода в руки машины (Deus ex Machina).  Раннее, Вайзенбаум в приступе самоуверенности, с некоторыми колебаниями, писал: «Искусственное мышление приведет к конструированию машины по «образу и подобию» человека. У робота будет детство. Он будет учить язык, как ребенок, получит знания, и так дойдет до человеческого мышления. Вопрос не в том, можно ли это сделать, а в том – нужно ли?»             По сути же, программа Вайзенбаума «Элайза» искажает и подменяет жалобы больных, в классическом стиле, на вмешивающегося психиатра (психолога). Программа не связана с пониманием, не знакома с окружающей средой, не знает логики, не умеет самостоятельно программировать свои действия. Этим занялся Тэрри Виноград, создав компьютер «Шардело». У машины искусственная рука перекладывает кубики на столе.  Она может, в определенной степени, самостоятельно подчиняться приказам с клавиатуры. Понимает команды по-английски. Достаточно умна, чтобы определить смысл окружения и может даже объяснить, что подвигает ее на те или иные действия. Умение владеющего ивритом читать текст без гласных, как бы между строк, вернее, с опущенными гласными (ктав хасер) играет важную роль в понимании текста. Если мы хотим создать компьютеры, которые смогут понимать текст, по-настоящему, их надо обучить читать между строк и букв. В лаборатории Йельского университета попытались решить эту проблему при помощи программы Сэм (Sam). Ее создатели Калингфорд, Ларнет и Шнек (Shneck). Вообще, эта программа выступает под аббревиатурой FRUMP-1 – Fast Reading Understanding and Memory Programm. Сэм умеет читать между строк, благодаря вариантам предварительного сценария (scenario). Связанные с этой программой домашние компьютеры могут платить за электричество, газ, телефон, следить за электронной почтой, сканировать банковские данные. Трудно определить, насколько действенна «Программа специалиста», дающая врачебный диагноз. Считают, что уровень этого диагноза выше врача-терапевта. Созданы (или сымитированы) программы по инженерии – дизайну автомобиля, геологическим исследованиям. В общем, это – золотоносная жила в исследовании искусственного интеллекта.  Как же создают такую программу? Месяцами наблюдают за специалистами, интервьюируют их, каталогизируют факты и правила, которыми оперируют специалисты, чтобы принять то или иное решение, организуют этот резервуар данных в форме программы, читаемой компьютером. Такова программа Dendrae, производящая химические анализы, вроде бы на уровне доктора медицинских наук. Есть программы финансового проектирования, генной инженерии, поисков нефти, минералов, металлов. В компьютерных программах по медицине уверенные ответы машины, ответственное ее поведение успокаивает больного. Но, в общем-то, всё это – притворство, прикидывание. Программы эти, по сути своей, некие автоматические пособия.  Нет у них понятия того, что они представляют. Тэрри Виноград говорит: «В «Системе специалиста» скрыта опасность. Когда мы говорим о человеке-специалисте, мы представляем себе, что глубина его понимания помогает ему не только в решении ограниченных проблем, а в более широком охвате и видении их. Мы можем отличать специалиста от гения в этой области. Называть программу «Специалист» смешно. Ошибочное представление может идти на пользу лишь тем, кто хочет получить деньги на исследование, продать программу… Но она может привести к преувеличенным ожиданиям у тех, кто хочет использовать эти программы».  А они механически «прочесывают» (сканируют) подряд все знаки – символы, буквы алфавита, чтобы найти уже знакомый шаблон. Когда интервьюер набирает на экране компьютера «Пэри» предложение, тот, первым делом, ищет в этом предложении знакомые шаблоны. Программист связал с программой большой выбор предложений, которые компьютер может отличить. И тут же, обнаружив первое предложение, он печатает его на экране. Положим, в этом предложении есть слово «ты», сопровождаемое выражениями, заложенными в памяти компьютера – «нуждается в лечении», или «страдает от галлюцинаций», или «параноик». Реагируя на «галлюцинации», компьютер «Пэри» отвечает шаблоном «Думаю, что я знаю, что вы, врачи, задумали сообща». Тотчас же программа стирает этот ответ, чтобы он снова не повторился в течение одного интервью. Когда исчерпаны все ответы, компьютер спасается выражением типа: «Почему ты это говоришь?» Так в уже упомянутой программе Вайзенбаума «Элайза» при вопросе «Быть может» заготовлен ответ: «Ты не очень уверен?» При слове в вопросе – «все» – возникает ответ: «Ты думаешь об определенном человеке, не так ли?» У ответов свой внутренний порядок. Если в предложении есть одновременно «быть может» и «все», компьютер это воспринимает как вопрос повышенной важности, и реакция программы соответственна.  «Элайза» же может и сама создавать ответы, переворачивая вопросы. Эти «перевертыши» включены в шаблон. К примеру, вопрос: «Почему ты меня ненавидишь?» Ответ: «Ты любишь (тебе нравится) думать, что я тебя ненавижу, не так ли?» И сразу же ответ переводится в конец списка. А в каждом списке четыре-пять перевертышей. За всеми хитростями компьютера стоит человеческий мозг, изощренный в поисках ответов и решений головоломок. Не столь уж сложные, но выдаваемые машиной, – они потрясают самого создателя, подобного арабу из байки, которого раздражает скандал соседей, и он перебивает их перебранку выдуманным им сообщением: «На базаре появилась рыба». Не проходит и десяти минут – появляется толпа бегущих людей. «Что случилось?» - спрашивает араб. «Ты что? Не слышал – на базаре продают рыбу!» И подавшись всеобщему психозу, который он сам выдумал, араб бежит на базар.

Иногда случайное «счастливое» совпадение может выдать ответ, и тогда «случай» раздувается ошеломленным мозгом в «сознание» и «мышление».  Система «перевертышей», придуманная Вайзенбаумом, весьма изобретательна и остроумна, но если когда-либо «мыслящие» компьютеры станут реальностью, историки будут видеть «Элайзу» и «Пэри» так, как мы сегодня видим летающие машины прошлого века в сравнении с современными самолетами. «Я выбрал для программы, – говорит Вайзенбаум, – психиатрическое интервью, ибо эта декорация представляет один из редких примеров связи на естественном языке, беседу, в которой один из собеседников может притворяться, что ничего не знает об истинном (реальном) мире». Одна из главных проблем исследования искусственного интеллекта это – создание больших резервов информации, к которой   возможен быстрый и легкий подход человека среднего развития. Мыслящий компьютер, если он возникнет, может не пройти экзамен Тьюринга. Во-первых, реакции такого компьютера будут отличными от реакции человека. Во-вторых, человек будет видеть в этом экзамене процесс унизительный и ненужный. В отличие от лакмусовой бумажки, точно определяющей присутствие кислоты в растворе, экзамен Тьюринга не дает однозначного ответа.  Даже если компьютер дает словесный ответ, он не может соотнести эти слова с предметами, ими обозначенными в реальном мире, их смыслом и предназначением. Интервьюер не может, к примеру, приподнять пепельницу и спросить у компьютера: «Что это? Как это называется?» Многие слова и выражения – «квадратный корень», «разум», «философия», «наука» не представляют видимые и осязаемые предметы. Речь идет о розыгрыше. Компьютеру не нужны органы чувства, чтобы понять – разыгрывает ли его интервьюер. Компьютер подобен «черному ящику». Изучению поддается лишь внешнее его поведение. Предположение, что человек мыслит, основано лишь на внешнем его поведении и речи. Я могу определить мыслящего человека по внешнему его поведению, ибо у нас одно и то же строение тела и духа, вплоть до электрохимических процессов в мозгу, ответственных за мышление. Быть может, мы слишком много требуем от компьютерной программы, сопоставляя ее с человеком? Быть может, программа лишь должна быть модулярной, уметь соединиться с другими программами, чтобы вместе одолеть более сложную форму поведения, соединившись с моторной системой – роботом, его восприятием и реакцией? Сенсационно, хотя и объяснимо, как программа «Элайза» могла потрясти так много людей, заставив их поверить, что они беседуют с другим человеком, сидящим где-то за таким же компьютером. Вообще, есть что-то мистическое, поражающее, когда с тобой лично беседуют неизвестно откуда (быть может, с Неба) – через экран.                                                                                                                                              Еще один мучающий сознание пример того, как логически ясная задача остается открытой и нерешенной после изучения всех факторов. Корабль Тезея из греческой мифологии, принадлежащий афинянам, в течение времени и беспрерывного ремонта, меняет постаревшие части – доски, настил, мачты – на новые. Приходит время, что в корабле не остается ни одного первозданного элемента. Старые части не выброшены. Из них собран опять корабль. Какой из двух кораблей истинный? И если у корабля есть право стоянки в портах, какому из них это право принадлежит? И решение должно быть логическими, а не при помощи орла и решки. Вопрос о мыслящем компьютере именно из типа таких вопросов. Поэтому множество людей не знает, как среагировать на этот вопрос. И это при том, что мы создали программы, научились решать проблемы и, главное, дошли до того, что силикон, магнитные ленты, биологические ячейки могут хранить в себе информацию, и открывать ее реагируя на знаки и символы в бинарной системе 0:1. Должны ли мы дать степень «мыслящего существа» этому предмету, машине, включая все сопутствующие этому психологические понятия? Как мыслящее и владеющее языком, человеческое сообщество, мы должны взвесить и принять решение – выиграют ли цели, во имя которых мы пользуемся понятием «мыслящее существо», если мы внесем это понятие в компьютер? Существуют два подхода. Первый – наше стремление отличить мыслящее от немыслящего, – это подчеркнуто феноменологическое различие. Понятие «феноменология» относится к феномену мышления в том смысле, что процесс мышления определим и научно измерим. Но мы уже видели, что много действий, которые мы определяем, как мышление, могут совершаться бессознательно. Здесь действует лишь совершаемое, но не понятийное. Отличие двуногого в шкуре от двуногого человеческого существа – происходящее, но не понятийное. Второй подход – мы делаем различие мыслящего и немыслящего, чтобы подчеркнуть различие биологическое, то есть, отличить существа с высокой степенью биологического развития мозга. Но в будущем встреча жены, которая любит развлечения, держит в кошельке голограмму мужа и детей, и хочет еще остаться в нашем мире, чтобы оценить пьесы Шекспира, по ее мнению, гения во вселенной. Представьте, что кто-то из нас скажет: так как ее физиология не похожа на нашу, она не мыслящее существо. Кто-то это примет всерьез? Подумаем об инстинкте, как шаблонном мышлении. Оса, принесшая пищу, кладет ее у входа в нору и проверяет, нет ли в норе кого-нибудь. Если в это время пищу отложить на несколько сантиметров, она опять положит ее у входа и снова проверит нору. И так каждый раз, ибо система внутреннего поведения ее не дает ей возможности отменить проверку. Это мы считаем поведением бессознательным, подобно рефлексу, ответственному за выстрел мышцы в ноге, закрыванию цветов с закатом или действие термостата. Организм с высокой степенью приспособляемости может планировать, анализировать ситуации, делать выводы – менять веру на основе опыта, принимать решения при противоречивых интересах или приемлемые решения на основе неполной (нецелостной) информации.  И, главное, существо должно все это делать в реальном мире, шумном, неопределимом, хаотичном – а не только в искусственном, защищенном, подобно миру кубиков компьютера «Шодерло». Кстати, объяснение и пророчество весьма похожи. Пророчество: она думает, что ты на нее сердишься, и потому она, вероятно, не придет. Объяснение ее: она не придет, потому что думает, что ты все еще на нее сердишься. Мы должны принять роботов, как мыслящих.  И потому нет никакой ошибки в понятии, что машины будущего будут и вправду мыслить.