Эволюция продолжается. Тысячи ученых пытаются вдохнуть разум в тело машины. Уже сейчас роботы могут анализировать, принимать решения, действовать. В XXI веке они научатся думать. Машина подчиняет себе своего творца. Наш разум уступает искусственному. Проиграет ли человек состязание с машиной?
XX век кончился очередным торжеством человеческого разума: успехи в медицине и космонавтике, открытия в генетике и астрономии и, наконец, достижения в области обработки информации, приведшие к «компьютерной революции» и появлению всемирной сети Интернет.
Увы, оптимизм — извечный опиум человечества. Люди вновь и вновь спешат приобщиться к этой пагубной заразе, уверяя себя, что мир, наконец, переменился и отныне за любым триумфом будут следовать не падения, не трагедии, а новые триумфы. Однако история всякий раз обманывала ожидания. «Конец истории» обернулся «столкновением цивилизаций», торжество разума — очередной иллюзией. В считанные годы мы свыклись с терроризмом людей, но что если нас ждет, — может быть, даже в наступившем веке? — бунт «умных машин», воспетый фантастами?
Мы постепенно впадаем в зависимость от наших смышленых машин! Мы разучиваемся мыслить, используя для этого все более совершенные компьютеры. Мы вынуждены доверять нашим машинам. Нередко мы уже не способны контролировать их работу, мы не поспеваем за ними. Мы — тугодумы, они — торопыги. Пока мы просчитываем варианты, они опережают нас. Мы взрастили их и научили их действовать. Кем они окажутся — отзывчивыми помощниками или неблагодарными детьми?
Ведущие специалисты в области информатики считают, что компьютер, наделенный сознанием, станет опасен для человека. Компьютер говорит, думает и воспринимает мир как человек. Он — его отражение, и в то же время он по своим возможностям в тысячи раз превосходит человека. Он быстрее его, способнее его к обучению, и он менее раним, чем человек. Принимая в свой дом убогого слугу, слепленного из проводков и полупроводников, мы сжились с коварным захватчиком, который по прошествии некоторого времени возьмется помыкать нами и высасывать из нас все соки, словно раковая опухоль, проникшая в организм!
Физики ополчились на «человекобога»
Еще в пятидесятые годы британский математик Алан Тьюринг задался вопросом, может ли компьютер обладать разумом и, если да, то по какому признаку мы это определим. Сам ученый ответил на этот вопрос так: машину можно считать разумной, если, побеседовав с ней, человек не заметит, что имел дело с машиной.
В то время появление подобного теста было вполне уместным. Программисты добились первых заметных успехов. Газеты и журналы пестрели рассуждениями об «электронном гении» или «супермозге», а сами создатели ЭВМ предпочитали говорить об «искусственном интеллекте». Пока советские политики уверяли, что в считанные годы мы построим коммунизм, ученые Запада и Востока уверились, что ЭВМ скоро превзойдет мозг. Тень машины накрыла живой разум. Считалось, что человеческий мозг — это лишь хорошо оснащенный computer (англ. — «вычислительное устройство»), к программному обеспечению которого относятся сознание, интеллект и речевая способность. Недавнего «человекобога» низвели до уровня «машиночеловека».
Подобные попытки предпринимались давно. Недаром еще Максимилиан Волошин в 1922 году писал: «Машина научила человека пристойно мыслить, здраво рассуждать. Она ему наглядно доказала, что духа нет, а есть лишь вещество, что человек — такая же машина…» Однако никогда еще эти попытки возвысить машину не были так настойчивы, как в пору всеобщего наступления «физиков» на «лириков» (процесс этот был общемировым, и, например, западная поэзия так и не оправилась от вторжения в жизнь машинного начала: недавняя властительница дум превратилась в «рукоделье лингвистов»). Марвин Мински, один из основоположников науки об искусственном разуме, так сформулировал свое кредо, словно бы восприняв всерьез коварные резоны М А. Волошина: дух — это не что иное, как продукт бездуховных, но разумно связанных друг с другом программ и подпрограмм.
Однако ожидания были преждевременными. Выполнить тест Тьюринга компьютеры никак не могли. Мы, люди, постоянно обновляем свою память. Каждый день мы накапливаем горы новой, свежей информации и бессознательно используем ее. Мы неизменно обращаемся к этому огромному и сложному запоминающему устройству, что спрятано у нас в голове.
Мы черпаем оттуда все, что нам нужно, даже помимо нашей воли. Мы! Не они.
До сих пор все попытки наделить машину человеческим разумом терпели провал. Конечно, компьютеры научились многому. Одни из них, как соперник Гарри Каспарова, «Deep Blue», блестяще играют в шахматы. Другие воспринимают человеческую речь, третьи узнают лица людей, четвертые моделируют и проектируют, выполняя работу целых КБ. Однако компьютеры по-прежнему не универсальны. Соединить все способности кряду ученые пока не могут. Наши электронные шахматисты не комментируют футбольные матчи, наши электронные переводчики не всматриваются в своих собеседников, голосом которых они вещают, и прочее, и прочее. А ведь искусственный интеллект, ежели он намерен тягаться с человеческим разумом, должен быть способен и на многое другое: машина обязана постигать смысл наблюдаемых ей событий, у нее должно быть свое мировоззрение, то есть система взглядов на окружающий ее мир; наконец, машина обязана чувствовать.
Однако современные компьютеры как раз обделены эмоциями. Они без труда отыщут кратчайший маршрут из Москвы в Вальпараисо, но вопрос «Красиво ли это лицо?» ставит их в тупик. В машинах нет творческого начала. Они лишены самосознания. У них нет души, и это самое главное! Перед нами лишь временное сочетание отдельных элементов. Оно не чувствует никакой ответственности за свое «единое целое». Доколе так будет длиться?
Как бороться с безработицей роботов
Британский профессор Кевин Уорвик убежден, что через 20 лет люди станут рабами машин. Стоит им одновременно отключиться, и обширные регионы планеты окажутся в коллапсе. Судьба человеческой цивилизации скоро будет зависеть от сбоя машин. Американцы Ханс Моравец, Нил Гершенфельд и Рей Курцвайл пророчествуют, что к концу XXI века машины превзойдут человека по уровню интеллекта.
«Это — следующая ступень эволюции, — заявляет Курцвайл, автор книг «The Age of Spiritual Machines» («Век думающих машин») и «Homo Sapiens». — Она зарождается в недрах нашей цивилизации». Его тезисы звучат как сюжеты научной фантастики: в 2019 году компьютеры будут мыслить так же быстро, как человеческий мозг, совершая до 20 000 000 миллиардов операций в секунду. В 2029 году появится «программное обеспечение для интеллекта», вырабатывающее «сознание». В 2099 году исчезнет всякая разница между человеком и машиной. Это можно выразить и иными словами: к началу XXII века человек — в привычном понимании этого слова — исчезнет.
Мир заполонят небиологические существа, наделенные точными копиями нашего мозга. Это будут личности со своими чувствами и своей индивидуальной способностью реагировать. Их решающее преимущество в том, что машина легко передаст свои знания мириадам других. Если я учу французский язык или читаю «Войну и мир», то знания, накопленные мной в виде переплетения нейрональных сетей, останутся лишь моими знаниями. Я не могу передать их доподлинно точно другим людям. Зато искусственный мозг будет непременно использован для «перезаписи» знаний.
Что касается людей старого пошиба, то они оснастят свое тело и мозг быстродействующими микрокомпьютерами, дабы не уступать в эволюционной борьбе роботам, которые, как предсказывает Моравец, примутся создавать свои фирмы, где не будет и «пахнуть человеческим духом». На работу сюда будут принимать лишь таких же, как они, роботов.
Пророки машинного разума черпают уверенность в так называемом «законе Мура», гласящем, что каждые полтора года мощность процессоров удваивается. Настанет время, когда компьютер будет наделен таким громадным ресурсом, что ему не останется ничего иного, как взяться за работу, которая была до сих пор лишь уделом человеческого мозга.
Британский профессор Кевин Уорвик убежден, что через 20 лет люди станут рабами машин. На фотографии профессор Уорвик со своей женой Ирен
В XXII веке мир будет принадлежать роботам?
О чем грезил Кондильяк
В 1984 году американский компьютерщик Дуглас Ленат и его коллеги затеяли важный проект. Они попытались на языке формул втолковать компьютеру по имени «Сус» весь мир. Они обучали машину банальностям: дети моложе взрослых; метро проложено под землей, а шоссе — над землей и т.п.
«Сус» должен был научиться всему, что знает человек в здравом уме. Однако объявленной цели не удалось достичь. Огромные объемы накопленного знания еще не превращают машину в человека, равно как и бесталанного человека — в творца. Вот и библиотеки от того, что в них хранятся десятки и сотни тысяч томов, тоже не обзавелись мозгами и не приветствует приходящих к ним людей глуховатым, скрипучим баском.
В середине девяностых годов «очеловечить» машину вознамерился и Родни Брукс, профессор информатики из Массачусетсского технологического института. Для этого он решил наделить компьютер «Cog» различными органами чувств, позволив ему осязать и осматривать мир. Когда «Cog» почерпнет какое-то «критическое» количество информации из окружающего мира, у него, как у младенца, забрезжат зачатки сознания.
Эта «мыслящая машина» напоминала «чувствующую статую», чей образ придумал французский философ XVIII века Этьенн Кондильяк. Если бы статуя, полагал он, была наделена хотя бы одним из чувств — обонянием, у нее неизбежно зародилось бы сознание: «Пусть в сознании статуи будет один-единственный запах — вот вам и внимание; пусть запах этот длится, когда причина, вызвавшая его, уже исчезла, — вот вам и память; пусть внимание статуи сопоставит впечатление настоящего и прошлого — вот способность сравнения; пусть статуя почувствует сходство и различие — это будет суждение» и т.п. (пер. Е.М. Лысенко).
Однако в машинном теле — а Брукс даже придал компьютеру образ человеческого торса — пока так и не зародилось сознание. По-прежнему «Cog», вопреки гипотезе Кондильяка, не наделен ни памятью, ни чувством времени. Правда, его «физиономии» придана «экспрессивная мимика», дабы изъявлять разнообразные чувства и переживания. Так, в чертах его разливается печаль, если ученые перестают обращать на него внимание. Но разве у него есть что-то на душе? Разве он впрямь чувствует печаль, оставшись в одиночестве?
Одной из последних попыток стереть грань между человеком и машиной стал робот «Kismet», созданный в канун XXI века в той же лаборатории. Его бегающие глазки выискивают возможных собеседников. Когда человек коснется его сенсоров, черты робота просветляются: брови вздымаются, уши подрагивают.
Подобный робот растрогает даже камни. Он ведет себя как ребенок. Весел ли он, испуган или утомлен, все зависит от окружающих — оттого, общаются ли они с ним, играют ли, дают ли ему выспаться. Однако изъявляет он эти чувства не потому, что ощущает их. Нет, так велит программа, вложенная в него. В отличие от таких сложных, умных существ как кошка или собака, этот робот — с его лукавыми глазками и подрагивающими ушами — все равно иллюзорное, механическое создание. В его чертах по-прежнему нет жизни.
Кто такие «как все»
Пока мы не разобрались в самих основах человеческого сознания, нет смысла рассуждать о том, может ли машина впрямь обладать сознанием. Человеческий мозг нельзя сравнивать с компьютером, прибегая к такого рода логике: «Мозг обрабатывает информацию, и микросхемы обрабатывают информацию. Значит, мозг сходен с микросхемой». С таким же успехом, фальшивя в логических конструкциях, можно было бы сделать следующее открытие: «Человек умеет плавать, и рыба умеет плавать. Значит, человек сходен с рыбой». Если вы согласны, махните вашими плавниками.
Философы, оппонирующие Курцвайлу и Сº, считают их пророчества «простыми выдумками, игрой ума». Обрабатывать информацию можно по-разному. Машина проделывает, например, все операции последовательно, мы — параллельно-последовательно. По ассоциации мы выхватываем из глубин памяти сведения, много лет назад отложенные и, наконец, пригодившиеся. Мозг машины может на 90 процентов работать, как человеческий. Но остальные 10 процентов — это творческий интеллект. Его никак не воспроизвести.
Американец Джон Сирл сравнивает «поведение» компьютера с действиями человека, который, вызубрив правила китайской грамоты и иероглифы, может складывать из них слова, но что означает этот набор знаков, для него по-прежнему непонятно. Философ делает вывод: даже если появятся машины, которые, — будучи соответствующим образом запрограммированы, — станут вести себя как человек, наделенный разумом, это не доказывает, что разум у них есть.
А способна ли «неразумная тварь», как бы сильна она ни была, справиться с носителем разума — человеком? Ее сила, по ее неразумию, будет всегда применяться по определенной схеме. Никто так блестяще не знает «правила игры», как глупцы! Человек же, наделенный хоть искрой творческого духа, всегда играет не по правилам. Каждый человек — сам по себе — уникальный свод законов, постичь которые и разобраться в их беспорядочном переплетении ему самому не удается до конца своей жизни. Каждый нормальный человек думает (и порой поступает) «не как все».
Вовсе не сложно сконструировать лет через сто аппараты, которые поведут себя вроде бы так же, как мы. Они будут осязать, осматривать окружающий их мир, прислушиваться к нему, сканировать книги и газеты, складируя в своем электронном мозгу миллиарды и миллиарды строчек. Но ощущения, вызываемые предметами и событиями, — это больше, чем реакция на них: «Препятствие — уклониться», «Съедобное — съесть», «Горячее — избежать». Нет, ощущения подчас «впечатываются» в наше сознание, становятся его призраками, и тогда стена — простое препятствие — исподволь твердит, что «Выхода нет», а огонь неожиданно заставляет вспомнить давний зимний праздник на даче. Мы живем с этими призраками, то настораживающими нас, то согревающими. А впечатления от от произведений музыки и поэзии! Добиваться от компьютера, чтобы он научился и этому, все равно что потчевать, кормить и умащать волка из русской пословицы: один не научится, другой убежит.
Конечно, машины могут крайне затруднить жизнь человека. Простая поломка компьютера порой перечеркивает не один месяц ваших трудов. Обесточенные приборы в городах, где внезапно отключилось электричество, вмиг превращают современного горожанина в инвалида, не способного ни приготовить пищу, ни узнать о происходящем вокруг, ни даже показаться на улице в свежевыглаженной рубашке.
И все-таки человек — не машина, моментально глохнущая, если «пункт А не выполнен». Человек, словно бактерия, способен выбраться из любых переделок, прижиться в любых условиях. Даже если машины, прирученные им, все же восстанут, у людей останутся истоки, к которым можно вернуться, выбираясь «из тягчайшей нищеты и новых видов рабства» и восстанавливая попранную гармонию. Ипостаси «человека средневекового», вовсе чуравшегося машин, или «человека XIX века», умеренно допускавшего их в свой быт, были вовсе не так уж плохи.
За любым прорывом в неведомое, за любой революцией — социальной и научной — следует мощный откат. Оптимизм слеп и обманчив. Триумф науки и искусства начала XX века сменился общеевропейским «тоталитарным рабством» 1930—1940-х годов. Чем обернется новый научный взлет 1980—1990-х годов? И машины ли станут причиной будущих бед? Да и вообще превзойдут ли машины человека?
* * *
