Путешествие третье
"HOMO EX MACHINA"
Это действительно драма. Если говорить точнее, то драма в четырех действиях, с прологом, интерлюдией и финалом. Усядемся же поудобнее в креслах воображаемого зрительного зала. Третий звонок, свет гаснет…
ПРОЛОГ. ФРАНКЕНШТЕЙН
Новая порода… благословит меня как своего создателя; множество счастливых и совершенных существ будут обязаны мне своим рождением.
Мэри Шелли
Занавес поднят, но на сцене еще темно. Героев драмы пока не видно, одни только смутные тени…
Швейцарские Альпы, дождливое лето 1816 года. На одном из курортов Женевского озера встречаются два англичанина, чьи имена вписаны золотыми буквами в историю литературы, — Байрон и Шелли. Между ними завязывается дружба. Льет нескончаемый дождь, лето все равно пошло насмарку, и в бесконечных спорах за полночь (третьим непременным полуночником был врач Байрона, Д. Полидори, годом позже выпустивший нашумевший рассказ "Вампир") незаметно скрадываются сырые дни и ночи. Спорят друзья обо всем: о науке, искусстве, тайнах человеческого бытия…
В те дни история английской романтической поэзии отсчитывала свои поистине звездные минуты, высеченные столкновением двух гениев искры еще долго будут озарять ее горизонт. Впрочем, был и четвертый участник полуночных дискуссий, восемнадцатилетняя Мэри Годвин, подруга и впоследствии жена Шелли. В обществе блестящих и эрудированных мужчин она выделялась разве что молодостью и непосредственностью и больше слушала, чем говорила.
Никто тогда не знал, что история запомнит и ее молчаливое участие в беседах, что велись дождливыми вечерами. Ведь этой девушке, почти ребенку, человечество будет обязано рождением сразу трех созданий, о которых заговорят век спустя. Новой литературы, нового образа и нового же мифа. Новорожденная литература превратится в одну из самых популярных в XX веке, образ чудовища будет терроризировать воображение писателей и совесть ученых и с триумфом завоюет киноэкран. А стоит появиться молодой науке — кибернетике, вспомнят и о мифе…
Все три чада Мэри Шелли (1797 — 1851) явились на свет одновременно, читатель познакомился с ними в книге, которая была задумана как раз летними месяцами 1816 года и вышла двумя годами позже. Называлась книга "Франкенштейн".
Сейчас это имя часто пишут без кавычек, как нарицательное; многие искренне считают, что лучшего символа современной науки не найти. "Попытаемся отыскать достойного преемника жуткого творения Франкенштейна, — патетически восклицает со страниц журнала "Дедалус" известный американский публицист-технофоб Теодор Роззак. — Что мы можем выбрать (ужасов-то современных — тьма)? Бомбу? Генетического "робота"? Бихевиористскую промывку мозгов? Компьютер-деспот? Не правда ли, современная наука в изобилии предлагает нам таких чудовищ?" Символ, рожденный фантазией Мэри Шелли, пришелся по мерке не ее веку — будущему.
С "Франкенштейном" связывают и появление научной фантастики — такой, как мы ее сегодня себе представляем. Еще будет поломано немало копий в спорах о том, так ли это на самом деле, ведь в книге действительно чудесным образом сплелись романтическая недосказанность "готического романа" и трезвый рационализм новой литературы, рожденной техническим прогрессом. Но для той фантастики, о которой пойдет речь дальше, отсчет начался с "Франкенштейна".
У новорожденной были братья-близнецы: образ и миф.
Своей книгой Мэри Шелли открыла первую страницу философской драмы о столкновении людей с ими же созданными искусственными существами, драмы о Человеке, хотя бы в мечтах ощутившем себя в роли Создателя. И как во всяком прологе, в романе Шелли читатель-зритель уже в состоянии уловить то настроение, что не покинет его долгие четыре действия этой драмы.
В прологе задан образ. Мэри Шелли не писала о роботе; у существа из плоти и крови, вызванного к жизни Виктором Франкенштейном, был человеческий мозг. Ни о какой кибернетике еще и речи не шло, и в книге нашли отражение более созвучные времени идеи из области биологии, химии и медицины. Но не научным проблемам посвящался роман Мэри Шелли. Волновало писательницу другое: воздействие набиравшей силу науки на жизнь людей.
Остается только позавидовать ее писательской интуиции. Искусственное существо, взбунтовавшееся против создателя… Спустя столетие эта философская проблема уже никому не покажется отвлеченной. Она со временем превратится в одного из трех китов, на которых будет покоиться основание современной научной фантастики. И когда в предисловии к роману Мэри Шелли писала: "Творчество состоит в способности почувствовать возможности темы и в умении сформулировать вызванные ею мысли", — писала-то она фактически о себе…
Что нового принес с собой "Франкенштейн"? Детище всемогущего разума вдруг обнаруживает незапланированные свойства, стремления и способности и в конце концов восстает… Где-то ведь это уже было? Мэри Шелли дает ясный ответ в подзаголовке романа: "Современный Прометей". Однако, кроме неожиданной инверсии старинного мифа, в книге схвачено что-то еще, что-то безусловно важное и относящееся более к науке, чем к мифологии.
Не символическое ли это выражение самой идеи прогресса, ход которого вырвался из-под контроля цивилизации? Стоит встать на такую точку зрения, как книга Шелли приобретает иной смысл, — это уже не просто очередной "готический роман", насыщенный тайнами и роковыми страстями. Ведь в те времена никто не писал о прогрессе. О мире, в который хлынула лавина изменений — и темп их возрастал до тех пор, пока изменения не превратились в единственную константу этого мира. О времени, когда любое действие грозит выпустить на волю очередного джинна (которого уже по счету?), и неясно, будет ли тот строить дворцы или разрушать их.
И наконец, был миф, сформированный массовой культурой. В первой половине XX века усилия бульварной фантастики быстро свели на нет философскую проблему. Раздираемый нечеловеческими страстями Виктор Франкенштейн превратился в записного маньяка-ученого, а пафос романа свелся к идее неизбежного зла, которое будто бы несет с собой наука. Хотя именно этот "второй" Франкенштейн — Франкенштейн массовой культуры — принес Мэри Шелли признание.
Детище болезненного гения Франкенштейна отомстило людям. И не своими действиями, о которых повествует роман, а, скорее, градом вопросов и сомнений, обрушившихся на голову человека, возомнившего себя создателем. Богом быть нелегко.
Каково человеку — грешному, мятущемуся, земному — оказаться в положении существа почти всемогущего, дарующего жизнь? А потом почувствовать себя как бы "недоразвитым" по сравнению со своим творением? Что испытывает педагог, как в кривом зеркале увидевший в воспитуемом собственные черты — как раз те, которые отнюдь не вызывают гордости? Кому в будущем править землей — людям или их искусственным созданиям, превзошедшим в развитии создателей?
Вопросы, вопросы — целый водопад удивительно недетских и, да простят нас читательницы, совершенно "неженских" вопросов низвергнулся со страниц романа юной Мэри Шелли. Мы сейчас ломаем над ними голову — мы, во всеоружии более чем полуторавекового опыта, стоящие на пороге третьего тысячелетия! А вот как она все это разглядела — в тихой сонной Швейцарии начала прошлого века?..
Научная фантастика еще погрузится с головой в это море проблем, угаданный символ окажется вполне адекватным миру XX века. А потом появится кибернетика. И стоит только ее создателям в возбуждении заглянуть в будущее своей науки, как выяснится, что книгам фантастов просто цены нет.
Вот что за существо выпустила на белый свет в 1818 году Мэри Шелли. До конца жизни она написала еще две фантастические книги, но только это первое дитя оказалось по-настоящему любимым. И обессмертило имя своей родительницы.
Потому что "Франкенштейн" породил качественно новую литературу. При всем обилии наивных благоглупостей и преувеличений, которыми пестрит фантастика о роботах, она все-таки рассказывает о мире, в котором нам предстоит жить. Мире, где человечество уже не будет одиноким. И в союзе ли с новоявленными помощниками, в схватках ли с бездушными "конкурентами" — но ему неизбежно придется взглянуть на себя со стороны.
…Мэри Шелли приоткрыла занавес. Вот уже на сцене светлеет, и мы в состоянии разглядеть действующих лиц.
ДЕЙСТВИЕ 1. РОБОТ
Мы хотели быть, как люди. Хотели стать людьми… Вы дали нам оружие. Мы не могли не стать господами… Надо убивать и властвовать, если хочешь быть, как люди. Читайте историю! Читайте книги людей! Надо властвовать и убивать, чтобы быть людьми!
Карел Чапек
Слово "робот" вошло в словарь XX века задолго до появления самих роботов и породило немалую путаницу в терминологии.
Современные роботы, которые сейчас производятся десятками тысяч, — это, как правило, автоматы узкого профиля: электронные "руки-манипуляторы", автосварщики, тележки-автопогрузчики и тому подобное. Они ничем не напоминают роботов научной фантастики, и немудрено: может ли всерьез заинтересовать писателя "внутренний мир" автооткрывалки жестянок из-под пива?
Искусственные человекоподобные существа, с которыми фантастическая литература разбирается без малого два века, правильнее было бы назвать андроидами. Впервые это слово прозвучало по-английски (тогда еще применительно к простому механическому автомату) в 1727 году — в ссылке на легендарные роботы средневекового алхимика Альберта Великого, вознамерившегося создать искусственного человека-гомункулюса. А следы легенды теряются во тьме веков: описанные в "Илиаде" золотые механические помощницы бога Гефеста, искусственные существа в индийских Упанишадах, сцены восстания андроидов в карело-финском эпосе "Калевала" и древнееврейская легенда о Големе.
Строго говоря, Голем — это первый детально описанный робот-андроид мировой литературы. "Эти големы представляют собой глиняные фигурки, воспроизводящие какого-нибудь определенного человека; над ними произносятся таинственные и чудодейственные заклинания, и на лбу у них пишется слово "эмэт", что значит "истина", после чего они оживают и могли бы быть использованы для разных дел, если бы они не вырастали с такой быстротой, что скоро начинают превосходить силой своих создателей. Но покуда можно достать до их лба, их ничего не стоит умертвить: нужно только стереть со лба первое "э", тогда останется лишь "мэт", это значит "мертвец", и големы мгновенно распадаются, как сухая глина…" Стоит вчитаться повнимательнее в это описание, данное немецким писателем-романтиком Ахимом фон Арнимом: перед нами ясно очерченная проблема "робот — человек"!
Снова отправляется в прошлое наша машина времени.
После Женевы первая остановка — в Вене 1915 года. Век спустя после выхода в свет "Франкенштейна" австрийский романист Густав Мейринк (1868 — 1932) пересказал средневековое предание о глиняном истукане, созданном будто бы в XV веке пражским мудрецом Львом Бен Бецалелем. И если Мэри Шелли писала о существе из плоти и крови (до прошлого века никто не верил, что органические вещества можно создать искусственно), то Голем Мейринка — это уже плод творчества инженера-конструктора, а не врача-физиолога.
Историки литературы отыскали и другие примеры. Искусственный шахматист из рассказа "Автомат" и бездушная красивая кукла Олимпия из повести "Песочный человек" (1816) Эрнста Теодора Амадея Гофмана. "Идеальная женщина" Андреида, описанная французским писателем Филиппом Огюстом Вилье де Лиль-Аданом в научно-фантастическом романе "Ева будущего" (1886). Шахматный же автомат из новеллы Амброза Бирса "Хозяин Моксона", вышедший в один год с романом Мейринка. Наконец, герои известных рассказов "История пробковой ноги" О'Генри и "Партнер по танцам" Джерома Джерома… Однако ни один андроид ранней научной фантастики до уровня символа не поднялся. Кроме Голема.
Он стал для научной фантастики вторым Франкенштейном. Общая судьба соединила эти странные порождения человеческой фантазии — чудовища, которых правильнее было бы назвать жертвами. Глиняного истукана создали с самыми благими намерениями: защищать детей, общину, а он обратил силу против своих создателей. Похоже, верно?
Против своих создателей… До чего же солидарны были предтечи современной фантастики! У Гофмана механическая кукла приводит героя к самоубийству, у Бирса (а также в малоизвестном рассказе Германа Мелвилла "Часовая башня", 1855) автомат убивает хозяина. Искусственная красавица Альрауна из одноименного романа немецкого писателя Ганса Эверса, вышедшего в 1911 году, накладывает смертельные заклятья на каждого влюбившегося в нее мужчину. Но чтобы спасти одного-единственного, в которого влюбилась сама, Альрауна добровольно прощается с жизнью. Гибнет в столкновении с далеким от идеала миром и идеальная женщина-робот в романе Вилье де Лиль-Адана. А тут еще чудовище Франкенштейна и Голем…
Попытки применить человеческие нравственные критерии к нечеловеческому, как правило, терпят крах. Был ли Голем злым, завистливым, коварным? Грустно, но приходится признать, что для этого он еще недостаточно "эволюционировал" до человека. И в бунте его больше отчаяния, чем вражды. Как и в романе Шелли, чудовище оказывается человечнее своего создателя.
Итак, неосознанная тревога не покидала писателей-фантастов уже давно, что-то пугающее разглядели они в туманной дымке грядущего. Что именно, вероятно, и сами не знали, но тревога оказалась заразительной: нет в ранней фантастике ни одного андроида, с которым "все было бы в порядке".
"Голем" Густава Мейринка стал второй меткой на древе робототехнической эволюции — какой роман о взаимоотношении людей и их искусственных созданий ни раскрой, над его страницами незримо будет витать призрак "глиняного робота".
Научная фантастика — в ее современном облике — была на подходе, оставалось найти современный же, соответствующий духу рождавшегося в огне войн и революций века эквивалент средневековой каббале.
Следующая картина отнесена на пять лет вперед. Место действия — Прага. Здесь происходит событие, ставшее для фантастики о роботах катализатором: получает крещение объект ее исследований. В январе 1920 года пьеса "Р.У.Р. Россумовские Универсальные Роботы" тогда мало кому известного автора Карела Чапека (1890 — 1938) распродана в количестве двух тысяч экземпляров, а годом позже поставлена в пражском Национальном театре.
Вот и главный персонаж первого действия. Сейчас, вероятно, не всякий читатель с ходу припомнит, о чем шла речь в пьесе Чапека, зато память сразу же высветит единственное слово, которое одно обессмертило имя автора. Робот…
Технически роботы Чапека не представляли собой нового слова по сравнению с "моделями" Шелли и Мейринка. Цель изготовления механических людей была той же — осчастливить человечество, придав ему в помощь верных и исполнительных слуг. Старому Россуму "нужно было только найти доказательства тому, что никакого господа бога не требуется. Вот он и задумал создать человека точь-в-точь такого, как мы… А ведь старик годился, быть может, для университета, но он понятия не имел о промышленном производстве… Молодой Россум… выкинул все, что не служит непосредственно целям работы. Тем самым он выкинул человека и создал робота".
Роковая судьба андроида Чапеком поднята на новый уровень: проблема становится глобальной. Изобретением гениального Россума заинтересовались политики, возникли идеи использования роботов сначала против бастующих рабочих, а затем и в военном деле. И в результате — война, восстание роботов и уничтожение ими остатков человечества. И еще вот что важно: в пьесе "Р.У.Р." роботы впервые упомянуты во множественном числе.
Чапек был сатириком, и его прежде всего интересовали негативные моменты в поведении роботов. Требовалось немногое — только продолжить в будущее линию, первые штрихи которой наметили Шелли и Мейринк. Но вот откуда шел этот пессимизм, как возник стереотип, словно вбитый накрепко в сознание писателей-фантастов: раз роботы — значит, жди беды?
Впрочем, можно попробовать найти объяснение всему — и почему боялись, и почему, несмотря на сопутствующие ей подсознательные страхи, тема все-таки продолжала притягивать. "Смертельное манит", как писал советский писатель Борис Пильняк.
Хотя только что закончилась кровопролитнейшая война, технократы смотрели в будущее с надеждой. Вера в безграничные возможности науки рождала оттенок самоуверенности, а где, в какой другой области познания можно бросить вызов природе столь дерзко, как не в реализации поистине "божественного" замысла — создании человека! Странно было думать, что научная фантастика, никогда не страдавшая скромностью желаний, откажется принять такой вызов.
Однако тема не только притягивала, но и обжигала, и также нетрудно понять, почему фантасты тяготели к черной краске в своей палитре. Первая мировая война дала наглядную, обобщенную символику: вот, дескать, смотрите, что такое "наука на службе прогресса" (то есть танки, аэропланы, иприт). А известная уже читателям судьба "творений" Бецалеля, Франкенштейна и Россума добавляла необходимую дозу конкретики в подобные рассуждения.
Так еще не рожденная кибернетика по прихоти писателей уже несла на своих плечах ответственность за прогресс в целом — ну, а его-то, прогресса, колючки к тому времени разглядели многие, не только Мэри Шелли или Чапек. Роботам по-своему "не повезло": писали о них авторы безусловно талантливые, великие. И образы оказались столь яркими, что цель была достигнута — человечество, еще не знавшее слова "кибернетика", уже содрогалось при одной мысли о ее возможных последствиях.
Каким бы ни было отношение читателей к роботам, их вторжение в фантастику к концу двадцатых годов стало неотвратимым.
Большую роль в этом сыграло появление в США первых специализированных журналов. Научная фантастика превращается в массовое чтиво, а читательская популярность — всегда палка о двух концах. Первые поколения НФ-роботов были не просто убоги — они были стереотипны донельзя: не прошло и десяти лет с момента выхода в свет пьесы Чапека, а серьезная проблема успела превратиться в штамп. Словно заведенные, авторы выстреливали из своих пишущих машинок рассказ за рассказом, а в сущности, рассказы-то ничем друг от друга не отличались. Ученый-безумец создавал очередного робота, а тот с маниакальной последовательностью платил своему хозяину черной неблагодарностью. Просто уничтожал…
Исключения? Изобретатель женится на женщине-андроиде, настолько она хороша и добра (Лестер Дель Рей, "Элен О'Лой"), робот-альтруист сознается в убийстве, но совершенном для того, чтобы спасти хозяина (Орлин Тремэйн, "Чистосердечное признание"). Наконец, добрые и человеколюбивые роботы, обнаружившие, что некогда были созданы человеком, разыскивают по всей Галактике мифического создателя, чтобы выразить ему свою признательность (Роберт Мур Уильямс, "Возвращение роботов")… Все эти рассказы американских фантастов появились еще до сороковых годов, и их можно пересчитать по пальцам. Если творения Шелли и Мейринка вызывали сочувствие, то роботы ранней фантастики чаще всего были злодеями.
Однако однообразие пресыщает, и поставленное на конвейер страшное перестает казаться таковым. Роботехнические ужасы, которыми пугали читателя, со временем также прискучили. К тому же страхи оказались преувеличенными: роботы явно несли на себе печать человеческого, и одно это представлялось благом. Знакомое и привычное — всегда благо по сравнению с неизвестным, чужим…
Наступает кульминация первого действия. Следующая картина — это уже Нью-Йорк, весна 1939 года. Девятнадцатилетний студент-химик, влюбленный в фантастику и сам пробующий в ней силы, садится за пишущую машинку с намерением показать миру, как надо писать о роботах. Юноша хорошо образован и не прочь поломать голову над парадоксами. А главное — он прямо-таки боготворит науку и решает подойти к вопросу строго научно.
Вероятно, читатель уже догадался, что речь идет об Айзеке Азимове. Его "монологом" открывается одна из самых впечатляющих сцен в нашей драме. Со временем у него появились достойные партнеры — американцы Клиффорд Саймак, Генри Каттнер и Гарри Гаррисон, советские авторы Анатолий Днепров и Илья Варшавский… Но раньше всех и громче всех прозвучал голос Азимова.
Увеличение знания увеличивает скорбь, об этом знали еще в далекой древности. Тогда же знали и о другом: человечество добровольно от запретного плода не отказывается — даже под страхом изгнания из рая. А уж надкусив плод, и подавно его не бросит… Да и кто купит сонное, ленивое спокойствие ценой отказа от благ, источаемых змеем-искусителем (читай: прогрессом)?
Почему бы в таком случае не вышибить клин клином — не использовать саму же технику? Всякое лекарство — яд, если заметно превысить прописанную дозу. Но из ядов делаются и противоядия. Многие устройства оборудованы системой контроля, срабатывающей, как только действия механизма становятся угрожающими. Роботы — те же механизмы. Так почему бы не попробовать…
И Азимов приступил к разработке законов поведения роботов. После появления в сентябрьском номере журнала "Супер Сайнз Сториз" за 1940 год первого рассказа на эту тему (рассказ называется "Странная нянька", хотя сам автор назвал его короче и теплее: "Робби") вышли один за другим еще девять, все они в 1950 году были собраны под одной обложкой. "Я, робот" — так была названа книга, знакомая миллионам читателей во всем мире. Название можно было бы и не напоминать, как излишне и выписывание знаменитых Трех Законов Роботехники: любитель фантастики помнит, вероятно, их наизусть.
Что же нового изобрел Азимов по сравнению с предшественниками?
Ранняя американская фантастика — это не "готический роман" начала XIX века. И воззрения прагматичного "технаря" Азимова, уж конечно, никак не напоминают романтически-возвышенные страсти Мэри Шелли: "Мои роботы были машинами, сконструированными инженерами, а вовсе не псевдолюдьми, созданными святотатцами. Они вели себя рационально, следуя законам, что были записаны в их "мозгах" с момента рождения".
Но нет правил без исключений. Выяснилось, что более всего привлекало писателей не безупречное поведение роботов, а как раз наоборот: отклонения от нормы, интеллектуальные и нравственные тупики, в которые заводило слепое следование Трем Законам. Не будь этих парадоксов, в которых запутывались (и с азимовской помощью — распутывались) роботы, вынужденные поступать "по-человечески", не было бы и книги. Азимов любил заковыристые загадки и очень скоро понял, что открыл в буквальном смысле золотую жилу: головоломок там было — на любой вкус и без счету.
Жила нуждалась в разработке, а читатель фантастики, жадный до "техописаний", нуждался в научных объяснениях. Поэтому Азимов, человек фундаментальный и педантичный, сел за разработку основ науки, которую он назвал "роботикой" (по созвучию с физикой, механикой, генетикой и так далее). Каково же было его удивление, когда спустя много лет он наткнулся на слово "роботехника" в вебстеровском толковом словаре английского языка!
Итак, историческая триада: Шелли — Чапек — Азимов. Мэри Шелли писала в духе "готического романа", Карела Чапека сформировала ироничная социальная сатира начала века. Айзек Азимов — это уже плоть от плоти американской научной фантастики, молодой, наивной, дерзкой и слегка самоуверенной. И роли были разобраны в соответствии со вкусами: романтику почудилось видение, многозначительный символ, сатирик нарисовал беспощадную карикатуру, а научный фантаст ничтоже сумняшеся сформулировал аксиомы и на их базе принялся выстраивать систему.
Предыстория роботов в мировой фантастике закончена.
Когда-нибудь о содеянном этими тремя будут помнить, вероятно, только историки фантастики — увы, все преходяще в этом мире, тем более читательская популярность. Однако Шелли, Чапек и Азимов оставили о себе память, не уступающую упоминаниям в справочниках и энциклопедиях, — они оставили слова, прочно вошедшие в нашу повседневную жизнь. Те самые шекспировские "врезанные в память письмена" прочнее мрамора, которые "текущие столетья не сотрут". И пока существует человеческий язык, наши потомки, произнося слова "Франкенштейн", "робот", "роботехника", будут вспоминать о людях, которые ввели в мир роботов.
ДЕЙСТВИЕ 2. ЧЕЛОВЕК
Было время, когда перед лицом Вселенной человек был одинок и не имел друзей. Теперь у него есть помощники, существа более сильные, более надежные, более эффективные, чем он, и абсолютно ему преданные…
Айзек Азимов
Азимов представил положительного героя. Завязывается интрига, а зритель постепенно постигает скрытый смысл происходящего. Декорации, грим, условность сцены — все это отходит на задний план; актеры разыгрывают фантастическую драму, но мы воспринимаем события на сцене как часть окружающей действительности.
Нелегко уследить за всеми персонажами — их слишком много (создание полного обзора всей фантастики о роботах — дело абсолютно безнадежное). Одних типов механических существ было напридумано столько, что Станиславу Лему в его двухтомном труде "Фантастика и футурология" при перечислении пришлось задействовать все буквы латинского алфавита. Ну-ка, попробуем и мы — с русским. Роботы в мировой фантастике овладели множеством чисто человеческих профессий. Это (а) спарринг-партнеры в боксе (Р. Мейтсон, "Железный человек"); (б) шахматисты (Б. Штерн, "Сумасшедший король"); (в) статисты в "шоу-бизнесе", загримированные под исторических или мифических персонажей (наиболее ярко идея воплощена в фильме "Мир Дикого Запада"); (г) художники (Д. Эли, "Волшебник света"); (д) музыканты (Л. Биггл, "Металлическая муза"); (е) микророботы-хирурги (Г. Гуревич, "Глотайте хирурга"); (ё) писатели-юмористы (У. Тенн, "Шутник"); (ж) "профессиональные" читатели-энтузиасты научной фантастики (К. Саймак, "На Землю за вдохновением") и даже… (з) лентяи-саботажники (Д. Родари, "Робот, которому хотелось спать")!
А вот, к примеру, такая сложная и запутанная область, как судопроизводство. Итак, (и) судьи (И. Варшавский, "Судья"); (й) подзащитные (А. Азимов, "Раб корректуры"); (к) даже "робофурии", своим видом постоянно напоминающие преступнику о содеянном (Г. Каттнер и К. Мур, "Аппарат для двух рук").
Или уж совершенно деликатная для западной фантастики сфера — религия, долгие годы пребывавшая в разряде табу. Здесь мы встретим: (л) просто верующих роботов (А. Азимов, "Улики"); (м) механических теологов, посрамивших средневековых схоластов (Э. Бучер, "Вопрос Фоме Аквинскому") и (н) даже первого робота-Первосвященника (Р. Силверберг, "Недурные вести из Ватикана")! А в памфлете Р. Шекли "Битва" механическое воинство божье выходит сразиться с силами Князя Тьмы на последний бой — Армагеддон (о).
Научно-фантастические роботы окружают человека не только на работе, но и дома, в семье, — превосходным роботом может, кстати, быть и (п) сам дом (Р. Брэдбери, "Будет ласковый дождь"). А еще: (р) домашняя прислуга (первого робота-слугу изобразил в 1928 году Д. Келлер в рассказе "Психофонная няня"); (с) бабушка (Р. Брэдбери, "Я пою тело электрическое"); (т) домашняя учительница (Р. Янг, "В сентябре тридцать дней") и даже… (у) супруг или супруга, ничем не отличающиеся от настоящих, как это, к примеру, описано в сатирическом памфлете А. Шалимова "Все началось с "Евы"! А в романе Р. Силверберга "Снятся ли роботам электроовцы?" на смену окончательно исчезнувшим животным пришли киберэрзацы (ф)…
А сколько разнообразнейших сюжетных ситуаций и ходов! Например, (х) роботы, искренне верящие в то, что они люди (Л. Гардинг, "Поиски"); (ц) ощущающие себя людьми только на определенный промежуток времени, но вовремя выключаемые (П. Андерсон, "Бесконечная игра"); (ч) борцы за освобождение своих механических братьев от тирании человека (К. Саймак, "Время, туда и обратно"); (ш) воюющие за своих хозяев, которые предпочитают отсиживаться под землей в убежищах (Ф. Дик, "Вторая разновидность"); (щ) оказавшиеся совершенно беспомощными в отсутствие человека (Б. Олдисс, "Но кто же заменит человека?"); (ъ) создавшие собственную цивилизацию, простершуюся до самых звезд (К. Саймак, "Город"); (ы) воспроизводящие и усовершенствующие себя (А. Днепров, "Крабы идут по острову"); (ь) устаревшие и отправленные на слом, но не желающие "умирать" (С. Лем, "Возвращение со звезд"); (э) неземные роботы (Д. Блиш, "ФОК"); (ю) роботы более гуманные, чем их создатели (И. Несвадба, "Мозг Эйнштейна")… И наконец, (я) роботы, в процессе эволюции приходящие к идее создания искусственного белкового существа — человека (И. Варшавский, "Перпетуум-мобиле")!
Действительно, все возвращается на круги своя, а ведь указана лишь малая толика вариантов. В "Регистре научно-фантастических идей, сюжетов и ситуаций", который ведет писатель-фантаст Генрих Альтов, зафиксировано 5 подклассов, 100 — 150 групп и несколько тысяч (!) конкретных идей на эту тему. Так что можно задействовать буквы и латинского алфавита и греческого — не перейти ли на иероглифы?
Однако типологическое разнообразие — это еще не все. Роботы, созданные воображением сотни-другой авторов и предназначенные, казалось бы, для выполнения различных функций, выходили все на одно "лицо". Конвейер научной фантастики исправно выдавал продукцию, отштампованную с одного и того же опытного эталона, а на нем стояло клеймо "сделано Азимовым". Вот почему его роботы привлекают внимание. Дело даже не в том, что он сформулировал Три Закона, — были разработаны принципы, построена система. И какой бы нереалистической она ни оказалась впоследствии в жизни, в научной фантастике роботехника Азимова вписана в реестр базисных дисциплин, по которым приходится сдавать экзамен всякому начинающему фантасту.
Были ли его роботы только машинами, как он сам утверждал? Только на первых порах.
В ранних рассказах цикла роботы, действительно, лишь выполняли определенные функции, служили, а не жили. Им были чужды какие-то демонические порывы, не лежала на их челе и пресловутая франкенштейнова печать. Азимов в послесловии к одному из рассказов иронически вопрошал: хочется ли автомобилю летать? А лампочке — печатать на машинке? Роботы были в полном смысле слова "благородными механизмами", но чем дальше, тем более сомнительным представлялось их "машинное" происхождение.
Причины были скрыты не в модификациях, с помощью которых фирма "Ю. С. Роботс энд Мекэникел Мэн Корпорейшн" от рассказа к рассказу улучшала свои модели. Сама внутренняя логика цикла, философская идея, неотступно владевшая Азимовым (хотя он, вероятно, и сам боялся себе в этом признаться), приводила к очевидному выводу: Азимов конструировал не идеальных роботов, а идеальных людей.
Антропоморфизм всей затеи выявился достаточно скоро. Несмотря на бурный прогресс молодой кибернетики (а то было время ее буйного расцвета, безудержных претензий и несбыточных грез…) роботы научной фантастики имели все-таки мало общего с проблематикой "умных машин", о которых всерьез заговорили ученые. Оказалось, что кибернетика шла какими-то своими тропами, а фантастическая робоэволюция — своими. И родословную НФ-роботов следует вести не от идей кибернетиков, а от старого знакомого — глиняного Голема, лишь соответствующим образом заговоренного. Металлические же (или полимерные) "одежды" по моде XX века не скрывали, да и не могли скрыть главного — выстраданную мечту человека о совершенстве.
После внедрения Трех Законов в научно-фантастическое производство количество роботов-злодеев заметно поубавилось. Многие теперь уже видели в Законах некий нравственный императив для людей.
Так что никакой "этики для роботов" создано не было и, вероятно, не будет. Этика создается для людей — и только для них.
Произнесите про себя: "Я, робот" — и мысленно отметьте первое, что придет на ум. Скорее всего, это будут Три Закона. А потом? Думается, все-таки не роботы, а в первую очередь "человеческие" герои во главе с Сьюзен Кельвин. О людях писал Азимов. Об идеальных людях, которыми грезили писатели во все времена, — добрых, гуманных и никогда не ошибающихся…
Вот что писал сам творец роботехники в одном из рассказов цикла "Я, робот": "Три Закона роботехники совпадают с основными принципами большинства этических систем, существующих на Земле. Конечно, каждый человек наделен инстинктом самосохранения. У робота это — Третий Закон. Каждый "порядочный" человек, чувствующий свою ответственность перед обществом, подчиняется определенным авторитетам… Он исполняет законы, следует обычаям, соблюдает приличия, даже если они лишают его некоторых удобств или подвергают опасности. А у роботов это — Второй Закон, Кроме того, предполагается, что каждый "хороший" человек должен любить своих ближних, как себя самого, защищать своих товарищей, рисковать своей жизнью ради других. Это у робота — Первый Закон".
Ирония Азимова в адрес так называемых "хороших" и "порядочных" людей очевидна; что же касается роботов, то создатель верил в своих детищ. Пусть хоть роботы будут человечны!
Со страниц книг двинулись в мир целые легионы механической "армии спасения": заботливые няньки, вышколенная домашняя прислуга, стражи порядка, уборщики, повара, гиды, учителя, дублеры космонавтов… Роботы строящие, охраняющие, воспитывающие. Некоторые, правда, по старинке бунтовали, но то были явления эпизодические, от вселенского кошмара, который рисовался авторам ранней фантастики, не осталось и следа.
Но скоро обозначился принципиальный водораздел между механизмами (например, роботом — уборщиком мусора) и подобиями людей (вспомним робота-мэра Байерли из рассказа Азимова "Улики"). То есть андроидами… И как только дело дошло до человекоподобных роботов — не по внешности, а по поведению и уровню интеллекта, — пришли первые сомнения.
Пока речь шла о механизмах, исправно выполняющих возложенные на них функции. Три Закона служили безошибочно. А возможные парадоксы последовательно снимались Азимовым и его коллегами по перу. Но стоило только прозвучать словам "искусственный разум", как выяснилось, что Законы вовсе не универсальны. А в отдельных случаях — и вовсе неприменимы.
Потому что никаких разумных роботов в действительности создано не было, вместо них загримированные люди-актеры разыгрывали свои, истинно человеческие драмы. Только одной религией стало больше: ведь что такое эти Три Закона, как не укороченные по моде века христианские десять заповедей! Религия, в какие бы одежды она ни рядилась, уже не раз претендовала на роль этического спасителя — и терпела поражение на этом поприще не единожды.
Технократическая этика Азимова оказалась хороша для создания идеальных механизмов — сложнее обстояло дело с "созданием" идеальных людей. Действительно, стоит задуматься над вопросом: не слишком ли велико насилие над такой многомерной системой, как человек? Попытка замкнуть все богатство его возможных намерений и поступков в каркас жестких постулатов — это значит попытаться ограничить бесконечно сложное и до конца не понятое конечным числом рецептов поведение… Ведь мы еще так мало знаем о себе самих — зато опыт человеческой истории многому нас научил (ибо сказано было "не убий", но убивали, убивали преспокойно с этой заповедью на устах!).
Все это отнюдь не праздные вопросы и не выражение какого-то "этического нигилизма". Просто сомнительно, чтобы задача создания идеального человека решалась столь примитивно, путем наложения на реального человека запретов.
Разумеется, благородные побуждения Азимова сомнений не вызывают, его рассказы о роботах по сей день остаются редким образцом человечности в западной фантастике. Да и далеко еще многим, по правде говоря, до азимовских роботов в нравственном отношении. Но нельзя и безоговорочно восхищаться азимовской программой: в цикле "Я, робот", как ни в какой другой книге, проявилась социальная наивность молодой фантастики, истово веровавшей в однозначно благотворное воздействие науки на жизнь людей.
Да, роботы в этих рассказах, как правило, предусмотрительнее и человечнее людей. Сколько добра они сделали людям, скольких спасли, пока, наконец, не пришло время спасать все человечество: в заключительном рассказе цикла "Конфликт, которого могло бы не быть" роботы предотвращают ядерную катастрофу…
Но они — роботы и в этом качестве послужить примером людям не могут, несмотря на "нравственную чистоту" помыслов. Роботы изначально запрограммированы на добро, однако кто рискнет утверждать, что знает абсолютно точно, что такое это "добро"? Родился же афоризм о дороге в ад, вымощенной благими намерениями… И может ли быть "добро" действительно добром для всех? И вообще мыслим ли разум в отсутствие свободы выбора?
Вот ведь как все непросто. Ситуацию острее всех почувствовал Станислав Лем, в свое время подвергший азимовских роботов резкой критике. Дело не в технологических препятствиях, писал Лем, а в логических. Если роботы разумны, то они способны произвольно менять нормативы поведения, вырабатывать новые. Если же они не способны уклониться от раз и навсегда заданных правил, то они были, есть и навсегда останутся машинами. И их какие-то претензии на "замещение" рода человеческого попросту лишены смысла.
"Я простил Азимову многое, но не Законы роботехники — ибо они сознательно фальсифицируют картину существующих возможностей. Азимов просто вывернул наизнанку старую парадигму: традиционный злодей обернулся голубым этическим героем". Сказано по-лемовски резко и бескомпромиссно — и, как всегда, точно. Но и претензии Лема к коллегам-фантастам зачастую чрезмерны.
Ибо научная фантастика — конечно же, не только совокупность парадоксальных идей и неожиданных решений. Это подтвердила и судьба двух авторов — Азимова и Лема.
Франкенштейнова печать — как проклятье; стоит раз погрузиться в эту проблему — и из нее уже не выбраться. Вот и создатель Трех Законов не в силах оторваться от любимого детища. Спустя десятилетие после выхода книги "Я, робот" появляется новый сборник, программно названный "Остальное о роботах", а в начале семидесятых годов — еще один, "Человек двухсотлетия", почти полностью посвященный роботам. Вновь и вновь пытается Айзек Азимов распутать им же завязанный тугой узел из этики и кибернетики, и в последнем сборнике идеально логичные роботы окончательно убеждают себя в том, что они и есть самые настоящие люди…
Но поразительно другое — совершенно "противоестественная" привязанность к роботам едва ли не самого резкого их критика, Станислава Лема! Уж для него-то все было кристально ясно давно — однако в своей публицистике Лем с поистине неиссякающим пылом продолжает бичевать убогую, по его мнению, мысль фантастов-роботехников. И это неистовство отрицания рождает вполне естественное подозрение: а сам-то Лем верит в собственный тезис о том, что "ничего скучнее и примитивнее роботов в научной фантастике создано не было"? Впрочем, к этому мы еще вернемся.
Вот ведь как они оказались просты и сложны одновременно, эти отражения человека в зеркале прогресса. Кто бы ни стоял перед тем зеркалом — восторженный энтузиаст или хмурый скептик, — не оторваться ему от отливающих металлом глаз, смотрящих из зеркала совсем по-человечески.
Не только научная или даже общефилософская проблема стояла перед писателями, выпускавшими в мир все новых и новых человекоподобных существ. В мировой литературе появился образ, которого не было ранее и который читатели сразу же приняли и полюбили. Конечно, создание Франкенштейна было во сто крат сложнее и богаче — не жертва и не агрессор, ни друг и не враг, а нечто двойственное и непрограммируемое, как и сам прогресс, вызвавший это создание к жизни. Роботы выглядели не в пример примитивнее: просто новые заменители няньки, слуги, собаки.
И все-таки можно сколько угодно спорить о роботах, а ясно одно: они были нужны, даже желанны. Видно, в этом мире не так много осталось заботливых нянек, исполнительных помощников и верных псов… Фантасты отразили настроения, владевшие читательской аудиторией, — стоит ли ставить это писателям в вину?
Но как "проблемное поле" научной фантастики, позволяющее заглянуть в человеческую душу извне (ведь эти возможности недоступны традиционным формам литературы), роботы потихоньку прискучили. В последние годы все реже встретишь оригинальные истории, зато растет поток пародий, сатирических выпадов и просто беззлобных юморесок. Все это, увы, свидетельствует об одном: жила вырабатывается…
Сцена опять темнеет, близится конец второго действия.
"Эпилог" — так назвал свой рассказ Клиффорд Саймак, один из самых знаменитых роботехников мировой фантастики. Ему довелось выпустить в жизнь множество механических существ, но на память прежде всего приходят герои его романа "Город" (1953). И вот спустя двадцать лет Саймак вновь вернулся к роботам — для того, чтобы еще раз с ними проститься. На этот раз, видимо, навсегда.
Мы помним "Город" — эту прекрасную, хотя и чуть наивную, по нынешним временам, сагу о Вебстерах, Псах и Роботах. На всем протяжении книги читатель последовательно прощался с героями доброй и грустной фантазии Саймака. В финале Земля почти опустела, на ней остались лишь загадочные муравьи, построившие свою цивилизацию, да старый робот Дженкинс, бессменный хранитель дома Вебстеров. Созданный примерно в те же годы, что и азимовские роботы, Дженкинс превратился в своего рода эталон. С него писали десятки копий, и он казался таким же незыблемым, как и само присутствие роботов в фантастике.
В рассказе "Эпилог" — наверное, самом грустном из всех, написанных Саймаком, — прощается с Землею и Дженкинс. Цивилизация муравьев развалилась, сами они исчезли неведомо куда, и Дженкинс последним уходит из опустевшего дома. Друзья-роботы прилетают за ним, путь их лежит далеко-далеко, к звездам.
Прощается со своими героями Саймак. Расстается с Землей робот, честно послуживший ей и своему создателю. Но почему-то при чтении рассказа не покидает ощущение, что фантастика прощается с роботами, так же верно служившими ей долгие годы…
Они еще не раз появятся на страницах книг и журналов, однако время их уходит. И все-таки эти странные создания сделали свое дело: в них, как в зеркало, посмотрели на себя люди. Мира роботов создано не было, только новый миф, но и мифы зачем-то нужны, верно?
…И опять из-за сцены доносится тема пролога. Из полуторавековой временной дали звучит голос юной Мэри Шелли, которая в своем озарении предусмотрела, казалось, все: "Мы останемся как бы незавершенными, пока некто более мудрый и достойный, чем мы сами… не поможет нам бороться с нашими слабостями и пороками". И в этих словах ее — вся фантастика о роботах.
ИНТЕРЛЮДИЯ
В первых двух действиях было больше переживаний, страстей. А теперь эмоции уступят место холодному анализу. Ну что же, смена настроений задана и героями: поначалу на сцене играли свои человеческие драмы такие же люди, как мы, лишь одетые в новомодные металлические "доспехи". А дальше? Герои, которых представят зрителям в следующих двух действиях, могут вызвать какие угодно ассоциации, но на людей они не будут походить даже отдаленно. А интеллектуальная драма продолжается…
Вот и сейчас, пока меняются декорации, небольшое отступление, реприза перед закрытым занавесом.
Кибернетика — наука молодая, однако того же не скажешь о вычислительной технике вообще. Во многих музеях мира хранятся под стеклом древнейшие счеты — абаки, которые насчитывают тысячи лет. А первое сочинение, в котором ставился вопрос о целенаправленном поиске логически истинных высказываний, появилось в самом начале XIV столетия. Это был трактат испанского монаха-францисканца Раймунда Луллия "Великое искусство", в котором автор не только выдвинул идею логической машины, но и обсуждал конкретные проекты. В 1642 году Блез Паскаль разработал принципы счетной машины, способной вычитать и складывать, а тридцатью годами позже ее усовершенствовал Лейбниц, обучив двум другим арифметическим операциям.
То были первые робкие шаги науки, которая только к середине XX века осознает самое себя. А англичанин Чарлз Бэббидж в 1823 году спроектировал действующую, достаточно скоростную по тем временам вычислительную машину для составления логарифмических астрономических таблиц. И дошел до идеи (увы, остававшейся практически нереализованной еще век с небольшим) создания гигантской "аналитической машины", в которой уже предусмотрено все: программы на перфокартах, банк памяти, блоки ввода и вывода исходных данных, их арифметической обработки. Осталось только изобрести электронные лампы и транзисторы!
Начиная с конца тридцатых годов развитие вычислительной техники пошло по экспоненте. В 1937 году Хоуард Эйкен в Гарварде разработал принципиальную схему, а чуть позже построил первый "автоматический вычислитель с последовательностью управления", 4,5-тонный гигант МАРК-1. Потом началась война, и как следствие возникла насущная необходимость в скоростной и эффективной вычислительной технике. Первая ламповая ЭВМ (ЭНИАК) была разработана в самом конце войны американцами Д. Макли и Д. Эккертом и через год запатентована.
Еще один шаг на пути создания современной практической кибернетики сделал в конце сороковых годов выдающийся математик, выходец из Венгрии, Джон фон Нейман, предложивший вводить в память компьютера не только пакет данных, но и программу выполнения операций. В 1950-е годы был запущен первый серийный компьютер УНИВАК-1, а затем стали сменять друг друга, постепенно усложняясь, все новые и новые поколения ЭВМ.
Но это техника. К началу шестидесятых годов была разработана и теория кибернетических систем, ученые впервые задумались о философских, нравственных, социальных последствиях рождающейся новой науки. К этому же времени достигло своего пика увлечение сверхоптимистичными прогнозами. Пророки кибернетического будущего громогласно обещали, что не пройдет и двадцати лет, как машина станет чемпионом мира по шахматам, полностью заменит в больницах врача-диагноста, а также "отменит" труд переводчика. Это были еще самые осторожные прогнозы — наиболее горячие головы называли точные даты создания искусственного разума!
Два десятилетия пронеслись в полемических бурях, то стихавших, то разгоравшихся с новой силой, а что в результате? Лучшие машинные программы сейчас могут на равных бороться с кандидатом в мастера, с мастером, но не больше. Машины-диагноста так и не создано. Что же касается переводческой сферы, то точную оценку ситуации дал известный американский философ X. Дрейфус в книге "Чего не могут компьютеры?": "То, что машина выдавала до сих пор в качества перевода, можно было бы назвать русским (или, соответственно, английским) текстом, но только в том случае, если вы относитесь к нему так же, как родители относятся к каракулям своего чада, видя в них пробы пера будущего Леонардо"!
Наконец, поставленные на заре кибернетики фундаментальные проблемы не только не были решены, но буквально низвергли на головы и оптимистов и пессимистов массу новых парадоксов.
Впрочем, в наши намерения не входит излагать курс истории кибернетики — она уже написана. Правда, было бы правильнее именовать ее все-таки предысторией.
Ибо за тридцать пять лет существования этой науки происходила своего рода "разминка", проба сил и возможностей, не говоря уже о выявлении тупиков и пределов. Вычислительных машин построили великое множество, а вот что касается вопросов принципиальных… Кибернетика не решила тех грандиозных задач, на которые было замахнулась по молодости лет, но зато у нее хватило времени, чтобы трезво осознать, какая бездна отделяет ее от решения. Разве одно это не свидетельствует о конце детства и наступлении зрелости? Достаточно перечитать отчеты в популярных журналах о последних конференциях кибернетиков, чтобы ощутить общую атмосферу начавшегося отрезвления.
Путь от первых вычислительных устройств до постановки проблемы "искусственный интеллект" был одновременно и коротким и долгим. Не так уж много лет прошло, но сколько тропинок отшагала человеческая мысль и в скольких перебывала тупиках!
…Как они все-таки оказались схожи — кибернетика и фантастика, эти две дерзкие дочери научно-технического прогресса! Обе в молодости замахнулись на недостижимое (предсказание будущего, создание искусственного разума), обе столкнулись с массой непредвиденных сложностей. Сейчас в тоне теоретиков фантастики и кибернетиков бравой уверенности заметно поубавилось; но именно сейчас ясно, что этим пограничным областям научного и художественного мышления принадлежит будущее.
Почему пограничного? Потому что фантастика задалась целью расширить мир на те области пространства — времени, что еще предстоит познать, или те, которые не будут познаны никогда. То же самое в отношении человеческого разума ожидали от кибернетики. А будущее… Что касается фантастики, то наша уверенность в ее бурном и прекрасном будущем зиждется на твердом логическом фундаменте: мир, в котором мы сейчас живем, становится день ото дня все более фантастичным.
С другой стороны, можно сколько угодно иронизировать над амбициями строителей искусственного интеллекта (а они и сами дают основания для иронии), но нельзя сбрасывать со счетов и то полезное, что привнесла кибернетика в мир людей. Не появись она вовремя, в сопровождении совершенно еретических философских вопросов, столетиями занесенных в разряд "табу"; не дерзни ученые хоть в теории повторить то, что удалось Бецалелю, Франкенштейну и Россуму, — создать искуственный разум — мы, вероятно, в чем-то отстали бы в изучении нашего собственного разума.
За последние десятилетия практическая кибернетика развилась необыкновенно, и нынешние поколения ЭВМ похожи на своих ранних предшественников, как современные сверхзвуковые авиалайнеры — на "этажерку" братьев Райт. Компьютеры сейчас настолько органично вошли в нашу повседневную жизнь, что мы порой их даже не замечаем.
С компьютерами советуются ученые, врачи, юристы, инженеры и преподаватели; в конце XX века даже браком нередко сочетаются по советам электронной свахи. Можно продолжить список, но в мозг уже закрадывается тревога: а где пределы всемогущества компьютеров? Что они еще могут контролировать — социальную ориентацию, нормы поведения, мысли, чувства? Что еще?
Увы, ответы на эти вопросы пока можно отыскать только в фантастике. Тем более, что, несмотря на успехи вычислительной техники, "отцы" кибернетики думали о своем детище прежде всего как об обобщающей философской дисциплине. И на вопрос, который задал в начале пятидесятых годов Алан Тьюринг, — может ли машина мыслить? — ответа не получено до сих пор.
А попытка даже грубо описать нечеловеческий разум открыла такие бездны непонимания разума человеческого, что стало ясно: до эпохи настоящей истории кибернетики пройдут годы.
ДЕЙСТВИЕ 3. МАШИНА
Нам говорят "безумец" и "фантаст",
Иоганн Вольфганг Гёте
Но, выйдя из зависимости грустной,
С годами мозг мыслителя искусный
Мыслителя искусственно создаст.
Занавес опять поднят. На сцене, залитой искусственным мертвенным светом (отчего она напоминает операционную), декораций практически нет — одна только бесконечная стена, холодно отливающая эмалью и усеянная множеством каких-то лампочек, панелей управления, индикаторных щитов. Слышится стрекот печатающего устройства, да где-то за стеной, извиваясь змеями, шуршат перфоленты. Холодно и неуютно, как в больнице.
И лишь спустя какое-то время мы начинаем различать в треске, шелесте, жужжании свою внутреннюю логику. Оказывается, и в подмигивании лампочек скрыт определенный смысл: несмотря на пустую сцену, действие началось, и кто-то невидимый и зловещий ведет свою роль, о содержании которой можно только догадываться…
К роботам фантасты пришли, отталкиваясь от мифов и легенд, которыми их заботливо снабдила мировая литература. И как во всяком мифе, основой мифа о роботах служил человек.
Идея всемогущих компьютеров, или "электронных мозгов" (интеллектроника, как назвал их Станислав Лем), родилась в пустом мифологическом пространстве. Не только в художественной литературе — во всей человеческой культуре разум неизбежно ассоциировался с привычным телесным обликом. Представить себе мышление, не связанное с человеческим телом, — значило представить качественно иное.
Впрочем, и до наступления эры компьютеров в художественной литературе встречались просто машины. Никакой электроники в них, разумеется, не было, но с основными функциями — контроля, распределения, проведения вычислительных операций и, наконец, управления — "доисторические" машины фантастов справлялись неплохо.
Машина (будем писать это слово с большой буквы: речь пойдет о символе-герое научной фантастики) имеет свою историю, которая хотя и уступает по продолжительности истории роботов, но драматическими коллизиями богата не в меньшей степени.
Машина пришла в жизнь людей и в литературу практически одновременно — в конце XVIII века, вместе с начавшейся промышленной революцией. Без Машины не было бы и самой этой революции — начало ей, наряду с ткацким станком, положил паровой двигатель англичанина Джеймса Уатта. Чуть раньше были построены прядильный станок, молотилка — к этим примитивным механизмам человечество шло тысячелетия!
Уатт увидел в Машине будущее. И не ошибся. 9 января 1769 года он получает патент на свое изобретение, и день этот открывает новую страницу истории.
Лавина самых разнообразных механизмов посыпалась на головы людей. О механических помощниках грезили как о золотом дожде, как о раскрытых вратах в долгожданный Золотой век. Блажен кто верует… Для многих людей нашествие Машин оказалось страшным бедствием.
Не удивительно, что родилась легенда о будто бы фатальном воздействии технического прогресса на жизнь людей, — легенда, вознесенная на знамя движения разрушителей машин — луддитов. Конечно, бунт этот был от незнания: причина закабаления была не в самих технических новшествах, а в социально-экономическом строе, их использовавшем. О том, как внедрение Машин привело к рождению капиталистического производства, как век Машин ознаменовался не только взлетами человеческого гения, но безднами страданий и унижений, — обо всем этом знает сейчас каждый школьник.
А в литературе… Машины, механизмы — до чего же все это "не человеческое". Главному персонажу действия априори уготована роль злодея.
Для художественной литературы легенда оказалась важнее анализа действительных причин, и с самого своего триумфального воцарения на троне прогресса Машина прочно ассоциируется с неволей — бесчеловечной, холодной и слепой. Не Машина служила людям — оказывается, те прислуживали ей.
Писатели-фантасты подметили этот момент уже во второй половине прошлого века. В фантастике викторианской поры Машину дружно предают анафеме — на земле Утопии Машине отказано в виде на жительство. В знаменитом романе английского писателя Сэмюэла Батлера "Едгин" (1872) герой, попадающий в государство Едгин (слово "нигде", прочитанное наоборот), оказывается в тюрьме по смехотворной вроде бы причине: он носит часы. Между тем в Едгине все без исключения механизмы запрещены законом… Батлер был не одинок, без машин обходилась другая знаменитая утопия — "Вести ниоткуда" (1890) Уильяма Морриса. О чем говорить, если Жюль Верн и тот с горечью обронил слова о "машинах, которые когда-то пожрут человека"!
Правда, эти смутные догадки вызывали редкие, но решительные отповеди приверженцев машин — достаточно вспомнить написанный в прямой полемике с книгой Батлера роман Эдварда Беллами "Взгляд назад" (1888), названный "первым учебником социализма в США". И Александр Богданов в романе "Красная звезда" (1907), описывая опять-таки утопическое марсианское общество, даже дал первые наметки будущей теории автоматизации и управления.
Однако таких было немного, и тон продолжали задавать пессимисты: в начале века появляются знаменитые, ставшие классическими "машинные антиутопии". На сцене — знакомые по первому действию декорации: Европа десятых — двадцатых годов.
Когда в 1909 году известный английский романист Эдуард Морган Форстер написал короткую повесть "Машина останавливается", до рождения кибернетики оставалось без малого полвека. Машина в повести Форстера пишется с заглавной буквы: рождалось новое качество по сравнению со станками и механизмами, известными полстолетия назад. Если раньше тревогу вызывали такие спутники крупного фабричного производства, как изматывающий ритм, монотонность и грохот, то на сей раз опасность виделась в другом.
Форстер был первым, кто задумался над идеей Машины-диктатора. Это уже не опосредованная угроза человеку — угроза превращения его в рабочий придаток конвейера, а прямое рабство, полная зависимость от Машины. Люди сведены до положения винтиков, обеспечивающих исправный ритм ее работы; и сама Машина теперь не узел, не агрегат, а целый комплекс: контролер, управляющий, карательные органы — в одном лице. Форстер зорко увидел возможность социализации Машины, превращения ее из технологической силы — в социальную. Машина отныне способна контролировать не отдельную фабрику, а государство в целом.
Повесть Форстера долгое время пребывала в относительной тени из-за успеха романа австрийской писательницы Теи фон Харбу "Метрополис" (1926). И даже не книги, о которой сейчас мало кто помнит, а скорее, ее экранизации, осуществленной в том же году мужем фон Харбу — Фрицем Лангом. И хотя по сюжету и идее фильм не шел ни в какое сравнение с повестью Форстера, символом автоматизированного мира стал "Метрополис".
Образ гигантского города-механизма, заведенного словно часы, действительно впечатляет. Это уже настоящий кибернетический ад, о котором не раз будут писать впоследствии, хотя, разумеется, постановщик просто обратил в гиперболу то, что видел воочию.
Гипербола была несложной, но принципиальной. Автоматизированная фабрика-кровосос с послушными винтиками-рабочими превратилась в заведенный город-мир с послушными и безвольными винтиками-гражданами. Ланг воплотил метафору "машина пожирает человека" буквально: на экране не раз мелькнет адское видение гигантской оскаленной маски, напоминающей каменного истукана доколумбовой Мексики; освещенные "жертвенными светильниками", в развороченную пасть изо дня в день покорно поднимаются толпы рабов. Так трансформируется в болезненном восприятии героя обычный вход в лифты, ежедневно опускающие рабочих в подземелья Нижнего Города, где создается материальная основа райской жизни праздных бездельников Верхнего.
Фильм Ланга, одно из самых ранних предостережений против тотальной урбанизации, на долгие годы превратился в эталон. Но причем же здесь "электронные мозги", сверхкомпьютеры? Не будем спешить — это не последнее действие драмы, придет пора и им выйти на сцену. Ланг угадал символ, образ — и на протяжении всего третьего действия зрителю нет-нет да вспомнится оскаленная пасть "Молоха прогресса", пожирающего своих верных рабов.
Вероятно, самым мрачным и по духу самым близким к последующим антиутопиям стал роман "Приговоренные к смерти" (1920) Клода Фаррера (псевдоним французского писателя Шарля Баргоня). В этой книге нарисовано логическое завершение тотальной автоматизации. И зло, как того требовали неписаные законы антиутопии, торжественно прописывается в мире на веки вечные.
Действие романа отнесено в девяностые годы нашего века. До самого финала все идет как обычно. В центре — образ капиталиста-диктатора, полноправного хозяина западного полушария. "Верхний" мир эпикурействующих лентяев — и мир "нижний", где совершенно замордованные люди-муравьи строят благополучие элиты. Все в этом мире стандартизировано, приведено к общим знаменателям… Зарождающийся антимашинный бунт жестоко подавлен: на рабочих и их семьи направлены страшные "лучи смерти". Однако среди жертв чудовищной бойни диктатор обнаруживает и собственную дочь, после чего, совсем в традициях фантастики той поры, берется за ум и "перевоспитывается".
И только в финале Фаррера посещает мысль, которую иначе как провидческой не назовешь. Хозяин-то Машины одумался — да поздно: власть Машины стала абсолютной. Сама Машина усовершенствовалась до такой стадии, что перестала испытывать необходимость в человеческом труде. А следовательно, и в самом человеке. Его легко можно "исключить" из гармонической, с точки зрения Машины, схемы производства — как и из разумно начертанной схемы жизни…
Это написано в двадцатые годы. Возник образ Машины, не только управляющей человеком, но и постепенно вытесняющей его из реальной жизни (в таком приблизительно ключе задумывался о социальных последствиях автоматизации и Валерий Брюсов — к сожалению, до нас дошли только черновые наброски его неизданных рассказов "Восстание машин" и "Мятеж машин").
И, конечно, наиболее остро и драматично воспринимали ситуацию поэты, отнесшиеся к ней прежде всего эмоционально. Тревоги и страхи перед будущим всеобщей автоматизации наиболее образно, даже с нарочитым "перехлестом", выражены в строчках из Максимиллиана Волошина:
Машина победила человека;
Был нужен раб, чтоб вытирать ей пот,
Чтоб умащать промежности елеем,
Кормить углем и принимать помет.
И стали ей тогда необходимы
Кишащий сгусток мускулов и воль,
Воспитанный в холодной дисциплине,
И жадный хам, продешевивший дух
За радости комфорта и мещанства.
Действительно, мрачная картина, но в те годы пессимистические, "упаднические" настроения преобладали над попытками разобраться во всем трезво, без эмоций.
"Электронных мозгов" не существовало даже в потенции, а символический образ Машины — холодной, равнодушной и абсолютно бесчеловечной — уже тревожил воображение фантастов. Машина не останавливалась, наоборот, она все стремительнее раскручивала свои шестерни и маховики — сначала механические, а потом и электронные. Росли ее возможности, и с ними амбиции.
Опять смена декораций: тридцатые годы. Тема "всесильных машин" прочно укоренилась в фантастике. В рассказе Лоуренса Мэннинга и Флэтчера Пратта "Город живых мертвецов" (1930) люди будущего живут в полной изоляции от внешнего мира, опутанные с головы до пят проводами. Даже двигаться нельзя: все ощущения — звуки, визуальные картины, запахи — заботливо поставляются Машиной. Правда, никому невдомек, что весь спектр этих квазиощущений Машина синтезирует сама, а как "там", на белом свете, никто не знает… В знаменитой антиутопии Олдоса Хаксли "Прекрасный новый мир" (1930) идея полной всеобъемлющей зависимости от Машины доведена до своего логического завершения. Да люди ли — обитатели этого сытого, скучного "рая", где автоматизировано решительно все, даже их появление на свет, будущая социальная роль, мысли и чувства?!
И вот, наконец, появляются произведения, в которых изображается будущая Земля, оставленная человечеством и заселенная только порождением его рук, кибернетическими механизмами, продолжающими бессмысленное функционирование в отсутствие тех, кому предназначались результаты этой деятельности (на эту тему написал два знаменитых рассказа "Закат" и "Ночь" Джон Кэмпбелл).
Действие подходит к концу. Мы уже различаем "черты лица" нового героя, которого нам только что представили. Хотя не покидает ощущение, что основные события впереди, а действие это послужило своеобразным прологом к главному, последнему.
У научной фантастики появилось новое увлечение.
Можно сказать, что кибернетическая эра в фантастике открыта. Всерьез обсуждаются такие материи, как "банки памяти", "аналоговые компьютеры", "автоматические системы управления"… Писатели-фантасты даже робко подбираются к проблеме проблем — искусственному интеллекту. А до пионерских работ Неймана, Тьюринга, Винера, Колмогорова еще добрых полтора десятка лет…
Строгие выкладки основателей кибернетики, на удивление быстро материализованные в действующих моделях, произведут подлинный переворот в устоявшейся системе человеческих знаний. И разумеется, дадут дополнительный импульс научной фантастике.
Но как часто это случалось на нашем веку, не сообщат ей ничего принципиально нового.
ДЕЙСТВИЕ 4. КОМПЬЮТЕР
Даже если отдельные компьютеры и рассматривать с антропологической или психологической точек зрения, надо помнить, что ничего человеческого в них нет… Это — совершенно иное в нашем окружении. Ничего подобного никогда не было ни в одной из предшествующих цивилизаций. И посему относиться к этой проблеме следует по-новому; путем отказа от повторений, от опыта, от аналогий с чем-то, что мы когда-то знали и пережили…
Станислав Лем
Компьютерам в фантастике не повезло — неудачная роль.
Казалось бы, что еще пожелать! Открыта неисчерпаемая шкатулка парадоксов и возможных оригинальных решений (в том числе — психологических, истинно человековедческих!), поднята тема тем, которую не закрыть и сотней книг, работа на десятилетия… Однако писатели все-таки оставались писателями: любопытство любопытством, а то, что не понятно, что не раскладывается "по полочкам" сознания, на бумагу ложится с трудом.
Герои первых двух действий, роботы, — плохие ли, хорошие — были прежде всего понятны. Понятен их облик, их мотивы. А тут… Бесконечные ряды шкафов, отливающих стерильной белизной покойницкой, недоступные пониманию криптограммы из мигающих лампочек, мертвое стрекотание печатающего устройства да непостижимые послания, написанные на языке двоичного кода. И эти вращающиеся бобины с перфолентой, которые прежде всего вызывают мысли о "шариках и роликах" гигантского мозга…
О какой психологии тут может идти речь? Кому дано проникнуть под эмалированные черепные коробки, чтобы разобраться, что же за мысли копошатся в сплетении микроэлектронных схем? Внешний вид компьютеров внушает какие угодно эмоции — от страха до молитвенного экстаза, но понимания, эмоционального приятия у писателей-фантастов "думающие ящики" вряд ли дождутся.
А в том, что каким-то непостижимым, нечеловеческим, но все-таки разумом эти "ящики" обладают, научная фантастика не сомневалась. И пока кибернетики сменяли молодой азарт на трезвый скепсис, фантасты смело приступили к работе с энными поколениями ЭВМ, которые в будущем этот разум обретут наверняка.
Эта уверенность, как и стремление забежать мыслью вперед понятны. Ну, во-первых, фантастика. А кроме того, электронно-вычислительная машина какой угодно сложности сама по себе предметом художественной литературы стать не сможет. Не способна ЭВМ "играть" на сцене — лишенная чувств, мыслей, эмоций, не умеющая попросту вести себя! Иное дело выдуманные фантастами самопрограммирующиеся, способные к эволюции кибернетические устройства, у которых внутренняя сложность и богатство связей с внешним миром достигли такого уровня, что поведение этих "машин" предсказать практически невозможно! Как нелепо и предугадывать результат их интеллектуальных усилий… Эта система уже обладает разумом, и художественной литературе от подобного героя просто так не отмахнуться.
Поэтому авторы драмы все-таки рискнули ввести в четвертое действие образы разумных машин. Хотя художественная разработка "образов", как и следовало ожидать, оказалась делом архисложным.
Проще фантазировать на тему их внешнего облика. Что и говорить, костюмеры и гримеры научной фантастики потрудились на славу, в выдумке им не откажешь! Суперкомпьютеру, оказывается, вовсе не обязательно появляться на сцене в образе набивших оскомину эмалированных шкафов: кибернетическая система может иметь своей основой жидкую субстанцию, как предполагает Станислав Лем в рассказе "Доктор Диагор", или даже… молекулы воздуха, организованные особой комбинацией электрических полей (рассказ Льва Теплова "Всевышний-1"). А размеры! На одном конце спектра рассказ румынского писателя Раду Нора "Живой свет", где описана киберсистема, состоящая из микроорганизмов. На другом — уникальная "машина", предложенная Павлом Амнуэлем в рассказе "Летящий Орел": "В недрах очень плотных звезд — их называют нейтронными — силы ядерного притяжения могут образовывать из элементарных частиц цепочки, нейтронные молекулы. Так чем же плоха мысль: нейтронная молекула способна хранить записанную в ней информацию во всяком случае не хуже, чем ДНК… Нейтронную звезду можно ЗАПРОГРАММИРОВАТЬ как идеальную вычислительную машину с невероятной памятью и скоростью счета…"
В вопросах "гардероба" фантазия и изобретательность буквально били через край, но вот драматурги в выдумке заметно уступали костюмерам. Причина была сокрыта скорее в неподатливости материала, чем в профессиональных возможностях постановщиков. А может быть, над ними довлели реальные, чисто человеческие проблемы, и фантастические компьютеры оказывались под рукой лишь как удобное средство по-новому осветить эти проблемы?
Как бы там ни было, герой последнего действия представлен на сцене в основном в трех амплуа. Это, во-первых, информационная "кладовая", куда заглядывают все кому не лень; затем — военный стратег и, наконец, машина-диктатор.
В первой своей ипостаси герой выглядит совсем бледно. Рассказ, в котором впервые детально описано автоматическое устройство для хранения и переработки информации, появился в 1946 году (Мюррей Лейнстер, "Логик по имени Джо"), и с тех пор мировая фантастика мало продвинулась в этом направлении, несмотря на обилие всяких там Информаториев, Больших Мозгов и прочего.
То ли авторам показалось, что ограничить свою деятельность функциями справочного бюро — небогато для искусственного интеллекта, то ли читатель был подготовлен к тому, что компьютеры писателей-фантастов знают все? Эпизод из рассказа Фрица Лейбера "Бедный супермен" — самая, пожалуй, яркая мизансцена, в которой выражено отношение фантастов к "электронным всезнайкам". В недрах гигантского компьютера, с которым постоянно советуются члены правительства, военные, светила науки, скрыта маленькая комнатка, а там сидит толстяк в одних трусах, потягивает холодное пиво и отстукивает на пишущей машинке ответы…
Этот пассаж, конечно, вызывает в зрительном зале улыбку. Зато предпринятые писателями попытки представить себе, до каких пределов может эволюционировать такая машина, приводили подчас к ответам поистине "сумасшедшим".
В блестящей новелле Артура Кларка "9 миллиардов имен бога" рассказывается, как по заданию тибетского ламы сверхкомпьютер методично перебирает различные комбинации букв алфавита (лама надеется таким образом узнать действительное имя всевышнего). И стоило машине отыскать искомую комбинацию, как тот дал о себе знать: на вечернем небе гаснут звезды. А в другом рассказе "Ф — значит Франкенштейн" (в русском переводе — "Зазвонил телефон") писатель описал ситуацию более, что ли, реалистичную, но столь же непредсказуемую. Чрезвычайно разветвленная система орбитальной теле- и радиосвязи, соединенная с наземными службами, образует в результате такую сложную систему, что у нее появляются зачатки совершенного "разума"! Подпитываемый электронным "молоком" младенец чисто рефлекторно начинает потягиваться…
Еще дальше пошел в своем знаменитом рассказе-шутке "Ответ" Фредерик Браун. Ученые, спросив только что отстроенный гигантский искусственный мозг, есть ли бог, тотчас же удостоились ответа: "Теперь — есть"… А разросшийся за тысячелетия до невообразимых размеров Вселенский Компьютер из рассказа Айзека Азимова "Последний вопрос" сам решает единственную проблему, поставленную ему природой: как приостановить рост энтропии во Вселенной? Решение найдено, и машина оповещает о нем мир: да будет свет!
Это, разумеется, шутки. Вторая роль — военного стратега — не давала повода для таких метафизических "фривольностей". Уже в наши дни современные поколения ЭВМ участвуют в прогнозировании и планировании военных операций, пока, правда, под наблюдением людей. А что будет завтра, если военно-промышленный комплекс дорвется-таки до заветного Абсолютного Стратега?
На сцене — снова чехарда образов-масок: мозг-гигант из одноименного романа западногерманского писателя Генриха Гаузера (вышел в 1958 году), неоднократно встречавшийся в рассказах Азимова Мультивак, но на этот раз "в военной форме" (рассказ "Машина, выигравшая войну"); а вот и пентагоновский электронный мозг из романа Мартина Кэйдина "Бог-машина" (1968), восставший против своих хозяев и вследствие этого уничтоженный как "неблагонадежный" элемент. Об эволюционирующем кибернетическом оружии, которое зачастую продолжает свое существование в отсутствие погибшего человечества, задумывались американцы Филипп Дик (рассказы "Автофак" и "Вторая разновидность") и Фред Саберхаген, опубликовавший целую серию произведений о жестокой механической "расе" истребителей-Берсеркеров. Наконец, это Станислав Лем. Действительно, чем не идеальное и абсолютно бессмысленное завершение киберэволюции — рои электронных мушек из его романа "Непобедимый" (1966)!
Сама война бессмысленна и противоестественна человеческому существованию, но, кажется, ничего более безумного, чем кибернетическое оружие, которое может жить своей жизнью, человечество не изобрело. Недаром по этому поводу язвительно прошлись крупнейшие ученые — английский математик и философ Бертран Рассел (в фантастическом рассказе "Кошмар д-ра Саутпорта Вульпса") и нобелевский лауреат физик Ханс Альфвен, автор вполне традиционного фантастического романа "История Большого Компьютера" (вышел в 1966 году под псевдонимом Олофа Йоханнесена). В этой книге электронный историк будущего описывает гипотетическое исчезнувшее звено в эволюции разума на планете — человека…
Но вот на сцене появился солист, популярнейший герой научной фантастики — электронный мозг-диктатор.
В 1958 году американский автор Артур Хэдли в романе "Веселая повозка" вполне мог себе позволить поиронизировать над компьютером, который вознамерился стать президентом Соединенных Штатов; но уже позже о властолюбивых амбициях "электронных мозгов" писали без тени улыбки. Тревога росла еще и оттого, что в данном случае антагонизм человека и машины не сводился к лежащей на поверхности борьбе за власть — возникал конфликт совсем иного порядка.
Это уже не война людей и роботов, а столкновение двух непохожих типов мышления. Компьютеры… что-то бесконечно далекое, полярное по отношению к человеку. Враждебны ли они, агрессивны, властолюбивы? Не всегда. Но бесчеловечны — по определению.
Безусловно, самый яркий образ — это электронный мозг ХАЛ — 9000 из знаменитого фильма Стэнли Кубрика (и, соответственно, романа Артура Кларка) "2001: космическая одиссея". Беззлобный злодей (в фильме он даже говорит мягким, почти задушевным голосом — так уж постарались конструкторы) пошел на хладнокровное убийство человека отнюдь не вследствие бунтарского нрава и каких-то демонических "франкенштейновых" страстей. Просто компьютеру показалось, что люди на борту космического корабля ведут себя неразумно, например замышляют отключить ХАЛ совсем. И ХАЛ принимает меры предосторожности. Он искренне "хочет как лучше", беда только, что логика, система ценностей и установки компьютера кардинально отличаются от человеческих.
И все же к какому бы исходу не приводил конфликт человека и машины, трезвомыслящие фантасты солидарны в одном: вины на механических помощниках человека нет. Да и само понятие "вины" — очень уж человеческое. Виноват в первую очередь он сам, слишком понадеявшийся на творение рук своих.
В злой пародии на технократическую утопию — романе "Рояль механический" (1952, в русском переводе — "Утопия-14") Курт Воннегут уже ясно расставил все акценты. Вовсе не электронный супермозг ЭПИКАК-XIV — так и хочется сказать: Его Величество Эпикак Четырнадцатый! — захватил власть над людьми. Те сами ее отдали, причем добровольно. В придачу к тягостным обязанностям — думать, выбирать, принимать решения. Воннегут хлестко, беспощадно набрасывает приметы мира, где трудовой деятельностью заняты всего 10 процентов населения, а технократическая элита превратилась по сути в жреческую касту, прислуживающую новоявленному божеству.
Роман Воннегута — не обвинение компьютеру, разящие сатирические стрелы предназначены скорее для "своих" же… Ведь при всей своей невообразимой сложности ЭПИКАК начисто лишен таких качеств, как жажда власти, эгоизм, зависть. И хотя на сцене вроде бы вновь мелькнула оскаленная пасть Машины из "Метрополиса", теперь оскал уже не тот: при виде обленившегося, деградировавшего человечества Машина кривится в презрительной усмешке…
В цикле произведений о вымышленном кибернетизированном государстве Модеран американский писатель Дэвид Банч рисует общество, граждане которого вовсе не вытесняются и не закабаляются машинами просто потому, что сами неотвратимо превращаются в механизмы, элементарные винтики более сложной машины! Вполне подойдут на роль биореле или биотранзисторов гигантского компьютера и члены общества, изображенного советским писателем Севером Гансовским в повести "Три шага к опасности". Они живут в полностью изолированной от внешнего мира "нише", и все их мысли, желания и поступки предусмотрительно включены в программу функционирования государства-компьютера.
Что их ждет в конце?
Из-за кулис слышится реплика Станислава Лема: "Если компьютер создан для регулирования жизни общества, то кто будет регулировать этот компьютер?" Как он умеет задавать вопросы!..
В своих ответах писатели-фантасты единодушны: судьба общества, переложившего полностью задачу самоуправления на машину, предрешена — его ждет неизбежное духовное вырождение. Ведь с точки зрения компьютера, запрограммированного на поддержание общественного гомеостаза, все гениальные или хотя бы просто творчески одаренные члены общества, все "неконформные" его элементы представляют потенциальную опасность программе, ибо способны на непредвиденные мысли и поступки. И электронный контролер начнет изыскивать возможность устранения потенциальных нарушителей порядка…
Так, вероятно, поступит компьютер, который будет действовать по раз и навсегда вложенной в него программе. Ну, а если киберсистема в своем развитии эволюционирует до появления разума, тогда ей вообще, по-видимому, больше дела не будет до людей. И не станет она задумываться, вмешиваясь в человеческие проблемы, — задумываемся ли мы, нечаянно наступая на божью коровку?
Впрочем, еще до того, как может возникнуть опасность электронной тирании, новейшими достижениями кибернетики не преминут воспользоваться вполне реальные, из плоти и крови, претенденты на трон. В наше время одному управлять сложнейшим государственным механизмом — это значит неустанно следить, предотвращать, искоренять… А не нуждающийся в отдыхе электронный мозг идеально подходит на традиционную в научной фантастике роль Большого Брата!
Если "нелояльную" машину можно просто выключить, как в романе Кэйдина, то что делать с гражданами, которых, к примеру, не устраивает система частного предпринимательства или же хваленая буржуазная "демократия"? Можно, предполагает Станислав Лем в рассказе "Эдип", построить систему, которая способна улавливать "антиамериканские" мысли и настроения и сообщать "куда надо". А если такую систему соединить с датчиками, вживленными в мозг каждого члена общества, то с ее помощью можно осуществлять и карательные меры: человек, в мозгу которого едва успела зародиться крамольная мыслишка, тут же получает чувствительный удар током (рассказ Ларисы и Михаила Немченко "НМ"). Следующим шагом будет, вероятно, электронное моделирование капиталистического производства и совершенствование способов эксплуатации людей — такой вариант описан Анатолием Днепровым в сатирическом памфлете "Мир, в котором я исчез".
Пророческие слова о "механических перчатках человечества" произнес когда-то Норберт Винер. Действительно, не от перчаток зависят действия, а от рук, на которые перчатки надеты!
Впрочем, не все смотрят на будущее интеллектроники столь мрачно: даже если очередной электронный кандидат в мировые диктаторы "взбрыкнет", можно будет отыскать управу и на него.
В рассказе Гордона Диксона "Палки в колеса" и повести Евгения Войскунского и Исая Лукодьянова "Формула невозможного" с обезумевшим компьютером справляется в первом случае обыкновенная человеческая логика, а во втором — внутренне присущий электронному "буриданову ослу" дефект: неспособность принимать нелогичные решения. Программист, герой романа Джона Браннера "Оседлавший волну шока" (1975), сам подключается к машине-Диктатору и ее же "руками" разрушает бесчеловечную систему. Роберт Хайнлайн в романе "Луна — суровая хозяйка" (1966) описывает, как восставшие в лунной исправительной колонии просто "перевербовывают" большой компьютер. А мозг-гигант из романа Ричарда Каупера "Тупик" (1972), задумавший было истребить выжившие после ядерной катастрофы остатки человечества (оно, по мнению компьютера, недостойно продолжать дело разума!), переубеждают простыми уговорами…
И сколько таких примеров.
Естественно, возникает вопрос: а так ли неизбежен этот конфликт человека будущего с неизбежной, видимо, сверхкомпьютеризацией? Перед лицом тех невообразимо усложнившихся задач, которые встанут перед нашими далекими потомками, сверхкомпьютеры окажутся незаменимы — разве что человек научится считать быстрее ЭВМ. И все страхи сродни страусовой политике прятания головы в песок: без помощников нам уже не обойтись, вопрос, как оставить их только помощниками?
Можно только позавидовать человеческому сообществу, в котором каждый член его, каждый человек Земли денно и нощно оберегается персональной Охранительницей — вживленной кибернетической ячейкой, соединенной с Большой Машиной. Охранительница подскажет ответ на любой вопрос, даст сигнал бедствия, когда с хозяином случится беда, быстро свяжет его с любым другим человеком на Земле. Такими описал их Сергей Снегов в своем романе "Люди как боги" (1966). А какие новые возможности для самоусовершенствования открываются перед человеком в рассказах Генриха Альтова "Клиника "Сапсан" и "Опаляющий разум"! Представим себе: мгновенное усвоение любого объема знаний, минуя трудоемкую процедуру чтения, полная перестройка структуры памяти — вот когда интеллектуальное соревнование человека и машины из утопий сверхоптимистов превратится в ежедневную умственную зарядку.
Человек даже в состоянии замахнуться на собственную биологическую природу. И вот Владимир Савченко в романе "Открытие себя" (1967) описывает биокибернетическую систему, которая способна творить человеческих двойников — точные копии или же улучшенные модели. А где-то на отдаленных окраинах Солнечной системы конструкторы уже строят совершенно фантастическую Машину Открытий, которую столь ярко описал Генрих Альтов в научно-фантастическом эссе, так и названном: "Машина Открытий".
Да мало ли сфер применения "умных машин" можно насчитать!
Увы, постановщики драмы, конец которой близок, пока сумели использовать до обидного мало. Да и как ни оптимистичны были последние картины, в целом это действие оставило, видимо, впечатление тягостное. Были они чужими, чужими и остались, эти наши гипотетические помощники; а на душе не перестают скрести: помощники ли — не наследники? В любом случае, ясно, что найти с ними общий язык будет делом нелегким. Хотя придется, никуда не денешься.
И тут, словно желая развеять напряженное молчание, повисшее над зрительным залом, на сцену — занавес еще не успел упасть! — выскочили актеры, решившие развеселить публику.
Машина-писатель, вот кого мы забыли!
Геннадий Гор в романе "Кумби" или известный французский прозаик Пьер Гаммара в рассказе "Машина Онезима" подходят к этому вопросу без тени улыбки, справедливо полагая, что вслед за сказанным "а" должно последовать и "б": раз есть интеллект, почему не быть и художественному творчеству? А большинство их коллег не упускает случая от души повеселиться и над идеей всесильных компьютеров, и над собственным ремеслом. Романы француза Робера Эскарпи "Компьютер-романист" и англичанина Майкла Фрэйна "Оловянные солдатики", наконец, запомнившиеся читателю электронные "словомельницы" из развеселого романа Фрица Лейбера "Серебряные яйцеглавы"… Раз так часты примеры, значит, было над чем смеяться!
Под самый занавес звучат слова Кристофера Эванса, ученого-психолога и знатока научной фантастики: "Недалек тот день, когда компьютер, в памяти которого будут храниться все когда-либо созданные произведения научной фантастики, засядет за работу: будет писать окончательный, итоговый НФ роман. Не сомневаюсь, что героем его будет… машина".
ВМЕСТО ФИНАЛА. ГОЛЕМ
Герои, которых нам представили в последнем действии, все эти примеры как благотворного применения кибернетики, так и электронной тирании, все-таки уводили фантастическую литературу на проторенную тропинку человеческих оценок, симпатий и антипатий. Так и осталось неясным, может ли художественная литература иметь объектом исследования нечеловеческое?
Слишком просто было бы ответить отрицательно. Ведь оно, это нечеловеческое, уже существует, появится в самом скором времени, властно вторгнется в нашу жизнь, и тогда от факта "вторжения" уже не отмахнуться будет ни ученым, ни художникам…
Лишь один писатель исследовал существующие возможности максимально серьезно. Попытался описать, художественно осмыслить то новое, что искусственный разум неизбежно внесет в нашу привычную жизнь. Это Станислав Лем.
Когда он выходит на авансцену, чтобы прочитать свой заключительный монолог, в зале воцаряется тишина. Его "монолог" — это его собственные книги.
До сих пор его голос раздавался в основном из-за кулис, и вот теперь говорит он сам. Лем не ответил ни на один вопрос, который явно или неявно был поставлен в пьесе, но сколько же новых, парадоксальных, а порою ошеломляющих вопросов он обрушил на головы сидящих в зале!
Хотя давайте вспомним: пока мы следили за событиями на сцене, Станислав Лем все что-то комментировал, подсказывал… Ругал почем зря роботов, сам с легкостью напридумывал с дюжину самых невообразимых кибернетических существ, и то рисовал перед присутствующими грандиозные перспективы "научно-фантастической кибернетики" — и тогда ему, затаив дыхание, внимали не только писатели-фантасты, но и специалисты; а то вдруг, резвясь и дурача зрителей, сыпал в зал эпизод за эпизодом из им же изобретенной "кибермифологии". И в этих полных скрытого смысла философских байках мы видели другого Станислава Лема — заразительно-веселого, остроумного, хитрого, не чуждого и мистификации, и беззлобного розыгрыша.
Когда о проблеме искусственного интеллекта говорит Лем, его слушают с понятным уважением: выступает крупный специалист, а по бокам сцены в почетном карауле выстраиваются профессор Тарантога, Лимфатер, очаровательный враль Йон Тихий, два гениальных чудака-изобретателя — Клапауциус и Трурль. А под потолком вьется, сплетаясь в невидимые узоры, электронная мошкара — та самая, что бросила вызов и победила звездолет с гордым именем "Непобедимый".
Мы уже привыкли к ним, к этим странным и смешным созданиям, но даже не им писатель обязан титулом ведущего роботехника в мировой научной фантастике. Станислав Лем вовлечен в проблему, что называется, с головой и, кроме художественных произведений, написал массу книг и статей, определить жанр которых просто невозможно (действительно, "Сумма технологии" — что это: научная фантастика или фантастическая наука?).
Видимо, роботы и компьютеры представляют для него неодолимое искушение. Но еще раз подметим: в двух-трех статьях Станислав Лем, кажется, и камня на камне не оставил от "убогой", по его мнению, фантастики коллег. Более того, ясно наметил цели и перспективы — проще говоря, неоднократно поучал, как в действительности надо писать обо всех этих материях. Однако годы идут, а сам писатель не хочет (или не может?) подать пример. Вместо того из-под его пера продолжают выходить статьи, какие-то экспериментальные литературные гибриды типа рецензий на неопубликованные книги, предисловий к книгам ненаписанным и тому подобное.
От художественной литературы Лем в последние годы заметно отошел. Что заставило его остановиться: действительно ли трудности, подстерегающие всякого, кто взял на себя нелегкую задачу описать нечеловеческое, или же стремление подзадорить коллег-фантастов? Было и такое. Идей, изложенных в этих статьях и философских трактатах, научной фантастике с избытком хватило бы на десятилетия, но это все-таки пути обходные.
Значит, не так все просто и ясно, как он сам неоднократно пытался убедить своих читателей. И кроме оригинальных идей, которых у Станислава Лема, конечно же, великое множество, есть что-то еще, что пока не поддается даже ему. Ускользает от писателя Лема, а не философа (а раздвоенность налицо).
В общем-то, ясно, что это. Образы, без которых немыслима художественная литература.
Литературный вундеркинд XX века родился все-таки от союза Науки и Искусства — и вот гены второго родителя оказались явно рецессивными (подавленными). Компьютеры, не переставая быть интереснейшей проблемой, адекватного художественного образа в мировой фантастике так и не обрели. И не ясно пока, осуществимо ли это в принципе: писать художественную литературу о нечеловеческом интеллекте.
Лем — мыслитель парадоксальный, и желание приступить к решению принципиально неразрешимой задачи вполне в его вкусе. Для него не стоит вопрос: можно ли? Ведь интересно, а значит нужно! Описать человеческим языком (и для человеков) нечеловеческое — мог ли Станислав Лем пройти мимо такого вызова? Но вот пока у него ничего не выходит…
Лем продолжает свой монолог, а публика начинает расходиться.
Невеселый финал. Нельзя сказать, что пьеса была неинтересной, скорее наоборот. Но очень уж неопределенно выглядит дальнейшая судьба главного персонажа последнего действия — Компьютера. Превратится ли он когда-нибудь в героя научной фантастики, откроются ли какие-то новые грани проблемы, о которой можно и нужно будет писать художественную литературу, — или ряды шкафов так и останутся всего лишь декорацией?
…Но что это! На сцене появляются еще два действующих лица — загадочная красавица, от которой почему-то веет могильным холодком, и компьютер, решительно отличающийся от всех, с которыми мы успели познакомиться. Это последние создания Станислава Лема: героиня повести "Маска", вышедшей в 1972 году, и сверхкомпьютер ГОЛЕМ-XIV из одноименного "предисловия к ненаписанной книге", вышедшего годом позже. Странное, жуткое и одновременно притягательное воздействие оказывают эти порождения лемовской фантазии, не тут ли кроется долгожданный ответ писателя на вопрос, как же писать о нечеловеческом разуме?
Читателя-зрителя буквально завораживает монолог героини — он настолько нечеловеческий, что и написан, кажется, на каком-то неземном языке. Но и то, что "Маска" — хорошая литература, сомнений также не вызывает.
Сюжет этой притчи можно пересказать в трех-четырех фразах. Мудрец чем-то прогневал короля, и по воле монарха придворные мастера изготовили страшное орудие мести. Механическую красавицу, в чреве которой покоилось, ожидая своего часа, отвратительное механическое существо с отравленным жалом. Мудрец не в состоянии устоять перед чарами красавицы. Но, случайно узрев (или это тоже было предопределено заранее?), что за мерзость скрывает прекрасное тело-"футляр" (маска!), в ужасе бежит прочь, а Маска, словно гончая, следует за ним. Однако у первоначально бездушного автомата, которого наделили сознанием, вместе с сознанием появляется и свобода воли: палач превращается в спасителя…
Впрочем, сюжет — тоже своего рода "маска". Ибо Лем не рассказывает, а показывает все эти перипетии и оценивает их, причем "изнутри", глазами и разумом героини. Нечеловека, автомата — пусть и наделенного какими-то зачатками сознания, даже личности. А выписан этот внутренний "нечеловеческий" мир столь ярко и многозначно, что тут поистине двумя фразами не отделаешься.
И все же, как ни оценивай "Маску", под каким углом зрения ни анализируй, рано или поздно упрешься в глухую стену, в вопросы вопросов, которые так мучают Лема, но от которых так легко и беспечно уходят многие его коллеги-фантасты. Может ли существовать интеллект вне свободы выбора? И наоборот, может ли программируемое существо осознать себя человеком разумным?
Не оттого ли героиня повести, постоянно очеловечиваясь, к концу произведения выбирает свой, отличный от предначертанного, путь, И становится от того много симпатичнее… Мы словно забываем, что прекрасной-то красавицы давно нет, а есть неприятное металлическое насекомое, но оно чувствует себя уже не убийцей, а спасителем. Оно способно познавать, сомневаться, искать, руша предписанную программу. Оно способно переживать, чувствовать, любить. Потому-то монах в повести и говорит: "Ты — сестра моя… А это значит, что я не возвышу себя над тобой и не унижу себя пред тобою, потому что, как бы различны мы ни были, твое неведение, в котором ты призналась, делает нас равными перед Провидением".
Самим качеством интеллекта, а не "футляром" задана граница между истинно человеческим и нечеловеческим. И "шкаф", усеянный лампочками, оказывается, может поступить человечнее иных "людей", запрограммированных — в мыслях, чувствах, желаниях и поступках — как самые примитивные автоматы… При всей многозначимости повести, которую Лем явно замыслил как постановку вопроса (а не ответ), и такая интерпретация имеет право на существование.
Так что же — успех, последнее слово в дискуссии? Но почему же тогда знакомство с "Маской" оставляет неясный холодок в груди, отчего новые вопросы буквально сминают старые, не принося нам ни ясности, ни удовлетворения? Зачем потревожены тени великих авторов-"готиков", не Мэри ли Шелли тут причиной? И наконец, означает ли финал (мудрец погибает, хотя Маска тут почти ни при чем) признание фаталиста: вложенной программы, мол, не изменить никому? Вопросы, вопросы…
Неудовлетворенность проистекает еще и оттого, что Лему, по-видимому, удалось то, к чему он сознательно стремился. Он описал психологию, поведение, этику существа нечеловеческого. Но читаешь об этом, и не покидает холодная отстраненность: какое нам дело до этих чуждых мыслей и страстей?..
Загадочная Маска явилась под занавес — в прямом и переносном смысле. Это одно из последних запоминающихся творений Станислава Лема, и хотя и спорное, но пока последнее слово в дискуссии, что фантасты ведут уже четвертый десяток лет. Но это и не ответ. Писатель лишь заинтриговал нас и, осветив на мгновение затемненную сцену, тут же задернул занавес.
И уж совсем загадочным предстает ГОЛЕМ, четырнадцатый из этого древнего рода. Только раз мелькнув на сцене, больше на ней ГОЛЕМ не появился — зато прозвучал его голос.
О чем он вещал? Чтобы ответить, потребуется пересказать все произведение. Резонно спросить, как он вещал… Это и проповедник, призывающий человека отказаться от векового предубеждения к электронным чадам своим, превзошедшим в развитии родителя. И умный, чуть ироничный педагог, терпеливо подготавливающий нас к неизбежному эволюционному "переходу". И блистательный полемист-задира, все переворачивающий с ног на голову в привычной картине мироздания (однако, как бы ни были еретичны высказанные им мысли, логикой и эрудицией он буквально рушит бастионы недоверия).
Отдельные пассажи ГОЛЕМа наводят на мысль о философе-цинике, который со своих горних высей презрительно поглядывает на копошащихся в пыли "козявок" — и, может быть, даже стесняется такого родства. Но странно, именно в нечеловеческие уста ГОЛЕМа вложил автор самые, наверное, замечательные слова, сказанные когда-либо о человечестве, человеческом разуме:
"Не дайте запугать себя ученым, которые приписывают жизни необходимость, а разуму — случайность. Поистине он был одним из маловероятных состояний, поэтому появился поздно. Но велико терпение Природы — не в том, так в следующем миллиардолетии пришла бы эта нечаянная радость".
В послании иного разума разуму человеческому сверкнула нотка — кто бы мог подумать — трогательной сыновней любви! А пищи для ума в монологе ГОЛЕМа содержится столько, что можно садиться и писать новую драму. Но и с той, за которой мы неотрывно следили, все ясно: не пришло еще время настоящего финала. Рано расходиться, и основное развитие событий — впереди.
***
Создание искусственного разума подобно игре малышей с огнем: никто не в состоянии предвидеть, каков будет результат. Ну что ж, человечеству не привыкать, оно, сколько себя помнит, всегда играло с огнем. И даже, случалось, похищало огонь богов — недаром Мэри Шелли, с книги которой открылась наша драма, дала своему роману подзаголовок: "Современный Прометей". Как только человек ощутил в себе первые проблески разума, он с огнем не расставался.
Не надо только забывать, что именно пламя первых костров отпугнуло диких зверей и спасло человека, накормив, одев его и обезопасив от всех напастей. Огнем первобытный дикарь уничтожил себя самого и вынужден был — кто знает, что за страхи и откровения испытал он при этом переходе? — стать человеком.
Конечно, всякая перемена неприятна и тревожна, но если впереди — неизведанное, то, ради чего мы, может быть, и появились на свет? Что ожидает нас за холмом видимого будущего? Холодный и бездушный ящик, набитый электроникой, удивительно примитивный в своей непогрешимости? Или все-таки человеческий разум куда более тонкий и богатый, чем наш сегодняшний?
Мы не знаем ответа. И никто сегодня его не знает. Даже наш предполагаемый "наследник", Голем Четырнадцатый.
Дадим же ему слово. Его голос гремит из репродукторов, как иерихонская труба, слова его подавляют и оглушают. Но если вслушаться — говорит он о Человеке, о человеческих пределах: "Вы выйдете за эти пределы, ибо иного выхода нет. И в том, что сейчас вам покажется прыжком в бездну, вы усмотрите вызов, если не красоту, и все же поступите по-своему — ибо, отринув человека, спасется Человек".
Загадочные, пугающие слова… Но ведь Лем писал фантастику, а она, как мы убедились, не всегда сбывается. К счастью…