Я—робот?!

В последние десятилетия, когда счетно-электронные машины вышли из лабораторий ученых- кибернетиков на широкий оперативный простор, этот вопрос стал не так уж бессмыслен. Все чаще человека сближают с машиной, открывая в строении его организма и в его деятельности принципы организации, общие с другими «подведомственными» кибернетике явлениями. И перед мысленным взором читателя, особенно знающего о кибернетике не из специальных работ, а из газет и иллюстрированных журналов, начинает маячить призрак робота, который способен заменить его, читателя, во всех его функциях, вплоть до чтения статей о возможностях кибернетики...

#doc2fb_image_02000018.jpg

К счастью, такой робот всего лишь мираж. Как всегда случается в науке, время безграничной веры во всеобщность и всеприменимость кибернетических принципов сменилось периодом трезвой оценки их реальной значимости, реальной применимости. Нельзя сказать, что роль кибернетики в жизни человека и человеческого общества таким образом недооценивается; но, к счастью, мы уже не склонны впадать в крайности, как несколько лет назад.

Во всяком случае, одно как будто стало ясным и очевидным: машина такое же орудие, как и любое другое орудие.

 

От рубила до ЭВМ

Но тогда что же такое орудие? В свете современного научного понимания можно (в рабочем порядке, конечно) определить его так: материальный предмет, который способен опредмечивать или моделировать те или иные функции человеческого организма.

Поясним наше определение. Возьмем самое простое орудие, так называемое рубило, т. е. камень, грубо оббитый с двух сторон; с одного конца у него острая режущая часть, с другого — утолщение, для того чтобы было удобно держать его в руке. Таким примерно орудием пользовался гейдельбергский человек, а может быть, отчасти и неандерталец. Советский антрополог М. О. Косвен говорит о рубиле, что оно «имело, вероятно, универсальное применение, служа и ударным, и режущим, и колющим орудием, а одновременно, вероятно, и метательным оружием». Значит, оббитый камень взял на себя те функции, которые раньше выполняли кулаки, зубы и ногти нашего обезьяноподобного предка. И благодаря тому, что наш предок получил возможность действовать при помощи камня, он, собственно, и выжил: ведь он вообще был довольно слабым, медленным и плохо вооруженным существом.

Проследим, однако, что было дальше. Первобытное общество развивалось, усложнялось хозяйство, увеличивалось количество трудовых действий, которые приходилось производить первобытному человеку, что, кстати, спасло его руку от односторонней специализации: она не стала ни органом копания, ни органом резания, ни органом оббивания, потому что ей приходилось делать и то, и другое, и третье попеременно.

#doc2fb_image_02000019.jpg

Количество доступных неандертальцу трудовых действий росло. Действия становились все более тонкими, более специализированными. В конце концов рубило оказалось слишком грубым орудием: оно стало мешать руке производить тонкие операции. Появилась потребность приспособить конструкцию орудия к новым условиям труда. Так вместо одного рубила появилось два орудия — так называемые остроконечник и скребло. Наблюдения над некоторыми современными народами (эскимосами, австралийцами) показывают, для чего служило каждое орудие: остроконечник был ножом или, скорее, кинжалом, а скребло служило для обработки шкур и для других аналогичных целей.

Что же произошло? В строении, в конструкции орудий оказалось закрепленным, моделированным различие трудовых действий, различие функций руки . И все дальнейшее развитие и совершенствование орудий производства — в сущности процесс постоянной передачи орудию каких-то функций, способностей, развивающихся в человеческом организме. Вместо того чтобы усложнять и утончать действия, производимые над предметом труда, человек усложняет, утончает, специализирует используемые орудия. Их становится все больше и больше, человек «обрастает» ими настолько, что в конце концов у него появляется своеобразный фетишизм: он забывает, что орудие, машина — это его собственное орудие, машина, моделирующая его собственные умения и способности, и начинает относиться к машине (орудию) как к какой-то чуждой, таинственной, противостоящей ему силе.

В определенный момент «обрастания» человека орудиями произошел довольно существенный, но принципиально не вносящий ничего нового скачок. Он заключался в том, что появились орудия, принимающие на себя, опредмечивающие в себе и моделирующие уже не физические способности человека, не умения его руки, а его духовные способности, умения его мозга. Таким орудием является, например, арифмометр. Но высшего развития подобные орудия достигли, когда на сцену выступили ЭВМ — электронно-вычислительные машины. При всем богатстве их возможностей, при всем техническом и конструктивном их совершенстве они, однако, остаются в принципиальном отношении тем же, чем было рубило гейдельбергского человека,— орудием.

И очень существенно, что они вступают с человеком в такого же рода взаимоотношения. А именно: он отдает ЭВМ те свои психические способности, которые ему «недосуг» выполнять самому, освобождается от механических операций, отягощающих его мозг, и подымается на все более высокие ступени умственного развития, как бы опираясь на послушно склоненные перед ним спины электронных роботов. Правда, как и другие наиболее сложные механизмы — типа современных автоматических станков,— ЭВМ не требуют непосредственной трудовой (или соответственно мыслительной) активности человека. Человек не должен уже сам все уметь; ему достаточно, так сказать, уметь уметь. Он включает и выключает своего электронного «раба», задает ему «урок» и берет у него полученные результаты. Но знание о том, как делает робот то, что ему поручают, для человека может быть не обязательным. Не так давно появились так называемые динамические информационные модели. Человек может даже вообще не знать, как работают по таким моделям машины: они сами находят и «усваивают» способ решения поставленной перед ними задачи.

Но задачу перед ними всегда ставит все-таки человек. Во время пребывания в Москве основоположника кибернетики Норберта Винера ему задали вопрос: возможны ли мыслящие машины? Он ответил примерно так: «Да, возможны. Но это значило бы, что машину программирует другая машина, а эту еще одна машина, а эту еще одна, и так до бесконечности». Единственная сила, которая может превратить бесконечный ряд в конечный,— человек.

 

Предпрограмма

Дело в том, что каждый отдельный человек, не говоря уже о неизмеримом превосходстве его над любой из существующих машин в разносторонности, сам стоит в бесконечном ряду. Он — временный носитель общечеловеческого разума, общественно-исторического опыта человечества. Он получил его от предков и передаст потомкам. И если этот опыт не пройдет, так сказать, сквозь его мозг, он (опыт) вообще прекратит свое существование. История человечества прекратится. Французский психолог Анри Пьерон в одной из своих книг приводит такую гипотетическую ситуацию: на нашей планете в результате какой-то космической катастрофы погибло все взрослое население. Остались в живых только маленькие дети. В таком случае, говорит Пьерон, человеческая культура погибла бы полностью.

Опыт предков, усвоенный каждым отдельным человеком, откладывается в его мозгу в виде так называемой «предпрограммы», и она, будучи заложена в мозг человека человечеством, позволяет ему быть хозяином самой «умной» машины, у которой объем «предпрограммирования» неизмеримо меньше.

Поскольку язык, по словам Маркса, «элемент самого мышления» и тоже относится — в определенном смысле — к числу духовных способностей человека, принципиально вполне возможно моделировать его функции, хотя бы частично, с помощью ЭВМ или другой машины, «специализирующейся» на высших психических функциях человека.

Давайте посмотрим: какие же из описанных выше функций языка могут быть моделированы?

 

Кто кого?

Функция регулирования чужого поведения даже не требует для своего моделирования ЭВМ. В сущности, любой человек, сидящий перед приборной доской — в кабине ли грузовика, в командном ли отсеке воздушного лайнера или в распределительном зале энергетической подстанции,— воспринимает от приборов информацию в неязыковой форме и действует, руководясь этой информацией. Кибернетика появилась и развилась как наука об общих принципах регулирования, и все изучаемые ею управляющие системы на уровне, где человек рассматривается как часть такой системы, в известном смысле моделируют регулирующую функцию языка.

Не слишком сложно обстоит дело и с другой важнейшей функцией языка — его способностью быть орудием мышления. Моделирование этой функции имеет длительную историю. Достаточно сказать, что арифмометр, о котором мы упоминали выше, появился еще в конце XVII в. Его изобрел гениальный немецкий ученый, математик, логик и философ Г. В. Лейбниц. Еще более стара идея создания «думающих», т. е. логических, машин, которые позволили бы моделировать процесс логического умозаключения: она принадлежит логику конца XII в. Раймонду Луллию. Ее развивал и Лейбниц, а практически первая логическая машина была построена в XIX в. англичанином Джевонсом.

Сейчас имеется уже громадное количество всякого рода логических задач, легко поддающихся решению на ЭВМ и с большим трудом (или слишком медленно) решаемых человеком. Причем некоторые из них — типично языковые (конечно, у человека): например, медик, собирающий необходимые для установления врачебного диагноза сведения, ставит диагноз всегда только в языковой форме. Машина же, получая необходимую ей информацию в форме сообщения, закодированного двоичным кодом, выдает готовый диагноз в том же коде, и лишь потом он преобразуется — и то лишь из соображений общепонятности — в обычный язык.

Сейчас разрабатываются алгоритмы для решения и еще более сложных задач, например для моделирования действий лингвиста, составляющего грамматику к заданному тексту. Так что, по-видимому, нет никаких оснований сомневаться в возможности самого широкого моделирования функции языка как средства или орудия мышления.

Точно так же не вызывает сомнений не только возможность, но и целесообразность моделирования функции языка быть средством закрепления результатов мышления. Сейчас эта проблема — одна из важнейших на повестке дня кибернетиков, ибо для всех думающих людей очевидно: если сохранится существующий темп роста научной информации (в чем нет ни малейших оснований сомневаться), то уже лет через тридцать в ней будет абсолютно невозможно ориентироваться. Поэтому ведется интенсивная работа над механизацией и автоматизацией хранения и поиска информации. Впрочем, даже и так называемая «память» обычной ЭВМ является средством моделирования указанной функции языка.

 

Кто будет задавать вопросы

У нас осталось три функции языка, о которых следует поговорить особо. Начнем с функций усвоения общечеловеческого опыта и саморегуляции. Можно ли их моделировать?

Ну, конечно, нет. Ведь они как раз и обеспечивают происходящий с каждым из нас в детстве и ранней юности процесс — процесс становления личности. Мозг может отдать машине на время какие- то элементы своей деятельности, но сначала он должен обязательно уже сложиться, чтобы уметь задавать машине вопросы. А это невозможно, если он сам не пройдет тернистого пути познания накопленных человечеством истин.

У нас несколько раз переводился рассказ американского писателя-фантаста Айзека Азимова. Суть его сюжета сводится к следующему. Дело происходит в будущем мире, где вся сложная интеллектуальная деятельность передана машинам. И вот появляется гениальный изобретатель. Он изобрел... арифметику, счет при помощи карандаша и бумажки... Гениальное открытие оказывается употребленным для военных целей, и изобретатель кончает жизнь самоубийством.

Так вот, описанная ситуация совершенно исключена, Человек может не отягощать свой мозг детальными выкладками, но он не может «забыть», не может «отдать» машине основные принципы мышления, основные достижения познания, как не может «забыть» правила логического мышления. Он тогда просто не будет человеком. Конечно, нельзя сказать, что все те, кто не знает арифметики, не люди, но общество, в котором забыты правила арифметики, не есть человеческое общество.

Мы коснулись вообще очень сложной проблемы. Каков тот минимум знаний, который должен иметь любой человек в нашем мире вспомогательных средств мышления? В последнее время на страницах газет и журналов широко обсуждаются проблемы обучения. И нередко раздаются сетования на то, что мы заставляем школьников и студентов выучивать наизусть, скажем, формулы, которые можно найти в любом математическом справочнике.

В этих сетованиях есть доля истины. Конечно, жаль, когда драгоценное время ученика тратится на заведомую зубрежку. Но... Но где граница между лишним и необходимым? Ну хорошо, мы убрали из программы и бином Ньютона, и формулу объема усеченного конуса, и структурную формулу сахарозы, и, наконец, формулу зависимости массы и энергии Эйнштейна. Значительно облегчили обучение. И одновременно «добились» бы... полного отупления ума школьника. Конечно, если он будет в дальнейшем врачом, лингвистом, даже химиком и в его жизни вдруг да встретится необходимость узнать, что такое Е = тс2, то он просто-напросто снимет книгу со своей полки (или пошлет запрос в информационный центр, если дело будет происходить лет через сто). И потеряет не так уж много. Однако ему будет надолго, если не навсегда, закрыта творческая деятельность в области физики, астрономии и многих других наук, потому что творческая, научная работа всегда предполагает автоматизацию каких-то знаний, их скорее подсознательный, интуитивный, чем сознательный учет. Человек не может двигать вперед науку, если ему придется за каждой справкой лезть в справочник. Он не может двигать ее вперед и в том случае, если ему придется все знания носить с собой, в голове: он будет тогда, быть может, все знать, но очень мало что сможет уметь.

Поэтому всегда должно оставаться равновесие, т. е. какие-то знания должны усваиваться человеком «по старинке» — при помощи лекций, учебников, книг и откладываться в его мозгу как своего рода разменная монета.

Правда, можно попытаться механизировать сам процесс подачи знаний, пользуясь не учебниками, а «обучающими машинами». Пока такие попытки остаются на уровне игры в педагогику. И в конечном счете не «программированием» обучения, а лишь управлением процессом усвоения можно обеспечить требуемый результат.

Точно так же не представляется возможным «отобрать» у человека функцию саморегуляции, присущую языку. Дело в том, что она обеспечивает существование человеческого сознания. Личность, говорит Л. С. Выготский, становится для себя тем, что она есть в себе, через то, что она предъявляет для других; проще говоря, только использование языка — сначала в функции регулирования чужих действий, а затем в функции регулирования своих действий — формирует сознание человека. Такую функцию никак нельзя передать машине.

 

Тоже мне личность!

Тогда поставим вопрос несколько иначе. А может быть, обе наши функции можно использовать, для того чтобы сформировать «личность» машины? Нельзя ли найти аналогии им в процессе «обучения» ЭВМ?

Вообще говоря, аналогия вполне возможная. «Обучение» ЭВМ имеет много общего с процессом обучения человека. Существует, однако, и принципиальная грань. Она лежит между механизмом «усвоения» знаний машиной и механизмом усвоения их человеком и существованием своим обязана «предпрограммированию», о котором шла речь выше. Поэтому аналогия наша остается чисто внешней. Как бы мы ни имитировали процесс обучения, он никогда не приведет к созданию «машинной личности» с «машинным сознанием».

Позвольте! — скажет читатель.— Вы утверждаете, что только человек может обладать сознанием, машине же оно недоступно. Но ведь этим вы льете воду на мельницу идеализма. Это же пресловутая «жизненная сила», vis vitalis, или, еще того хуже, боговдохновенный «разум», или «дух», «душа». Вы не материалист!

Нет, дорогие друзья. Дело здесь совсем не в «жизненной силе» и не в «душе». Дело в том, что человеческое сознание всегда общественное сознание, оно может существовать у отдельного человека лишь как конкретное проявление общих свойств, присущих психике человеческого рода, и генетически восходит к общественной деятельности, общественным связям человека. Маркс не случайно говорил, что человек — совокупность общественных отношений; они спроецированы в его мозг, его сознание. Только живя в обществе, активно действуя и овладевая окружающей внечеловеческой и человеческой действительностью, ребенок формирует свою личность. Машина же индивидуальна по своей природе. Она может накопить сколько угодно информации; но ей не под силу воспроизвести динамику коллективного разума. Разум человечества, общественное сознание невозможно моделировать — тогда нужно бы моделировать весь процесс эволюции сознания, а в конечном счете все развитие человечества.

А не моделируя общественного сознания, невозможно полностью воспроизвести и сознание индивидуальное.

В одной из статей, опубликованных в нашей печати, два уважаемых кибернетика — академик И. Артоболевский и доктор технических наук А. Кобринский выразили ту же мысль в парадоксальной, но очень интересной форме. Они пишут: «Под «естественным полноценным живым существом» мы понимаем, в частности, такое существо, которое непрерывно растет и развивается, которое в годовалом возрасте плачет по непонятным причинам и пачкает пеленки; которое в возрасте от 3 до 5 лет задает то мудрые, то бессмысленные вопросы, которое в 15 лет получает в школе двойки и пятерки, начинает интересоваться стихами и иногда моет шею без специальных напоминаний; которое в 20 лет работает у станка либо в поле, сдает экзамены, кормит грудью ребенка; которое в 30 лет водит тракторы и проектирует спутники; которое на протяжении всей своей жизни обязательно связано тысячами и тысячами уз с тысячами и тысячами других полноценных живых существ; которое в конце жизни умирает, потому что процесс умирания является пока одним из неизбежных жизненных процессов.

Мы согласны признать живым и полноценным такое искусственное существо, которое, будучи включенным в общество себе подобных естественных полноценных живых существ (смотри приведенную выше формулировку), на протяжении всей жизни от рождения до смерти сумеет существовать и действовать в соответствии с законами этого общества, на равных правах со всеми его членами работая, двигаясь, мысля и отдыхая так же, как в среднем работают, двигаются, мыслят и отдыхают другие...» «Машинная личность», если она и возможна, возможна лишь как часть «машинного человечества». А до появления такого, простите за выражение, «человечества» покамест еще очень и очень далеко. Так далеко, что можно надеяться — оно никогда не появится.

У нас осталась еще одна функция языка, в отношении которой неясно, можно ли ее моделировать: функция орудия познания.

Из сказанного выше ясно видно, что она принципиально невоспроизводима, ибо связывает «индивидуальный», личностный разум с разумом «коллективным», общественным. Она-то и образует в первую очередь ту специфику языка, которая позволяет называть его общественным явлением. Причем если две только что рассмотренные функции языка — функции усвоения опыта и саморегуляции — помогают нам, так сказать, спроецировать в наш мозг содержание общественного сознания, то третья, напротив, обеспечивает процесс формирования общественного сознания, общественно-исторического опыта за счет «индивидуальных» сознаний, «индивидуальных» деятельностей .

 

«Вмешательство мыслящего существа»

Итак, первая причина невозможности «отобрать» функции языка у человека сводится к тому, что они присущи не человеку, а Человеку.

Мы говорили выше о Человеке, о человечестве, подчеркивая, что оно своего рода информационная система, «тысячи и тысячи уз», связывающих друг с другом «естественные полноценные живые существа» — людей. Если есть такая система — есть и коллективный разум, общественное сознание. Так рассуждают Артоболевский с Кобринским. Так рассуждает и знаменитый английский кибернетик У. Эшби, у которого мы заимствовали понятие «предпрограммирование».

Но ведь если бы дело ограничивалось только этим, на земле не было бы Человека. Просто для природы не было бы необходимости его создавать. Мало ли можно найти среди животных таких примеров, когда совокупность отдельных животных — часто со специализированными функциями — приобретает новое качество, становится как бы биологической единицей: пчелиный улей, муравейник, колония термитов... Но почему-то, хотя тут и возникает информационная система, состоящая из «тысяч и тысяч уз», в ней не появляется коллективный разум!

#doc2fb_image_0200001A.jpg

Он и не может появиться, ибо любое животное подчинено законам природы, биологическим законам, действующим с железной необходимостью. При изменении условий существования данного животного (и данного биологического вида в целом) биологические законы приводят к изменению строения организма, к усложнению и изменению условно- и безусловно-рефлекторного поведения. Всякое развитие у животного сводится к усовершенствованию приспособления к среде.

Совсем иное у человека. В противоположность любому животному он никогда не сталкивается с природой один на один... Его отношение к природе опосредовано его отношением к обществу. У него всегда есть возможность почерпнуть необходимые навыки, умения, способности из общей кладовой социально-исторического опыта человечества, не дожидаясь, пока природа поставит его перед необходимостью выработать эти способности в порядке индивидуального приспособления. И возвращаются эти способности «с процентами»: изменение условий жизни и деятельности одного человека или группы людей обогащает не только их личный опыт, но и коллективный, социально-исторический опыт. Можно сказать, что человек всегда на один шаг опережает природу, не давая ей застать себя врасплох, в то время как животное на шаг отстает от природы и вынуждено следовать за ней. Как сказал поэт Максимилиан Волошин:

...Зверь

Приноровлен к склонениям природы,

А человек упорно выгребает

Противу водопада, что несет

Вселенную обратно в древний Хаос...

#doc2fb_image_0200001B.jpg

Что это за «водопад»? Специалисты по теории информации считают, что в нашей Вселенной степень организованности материи все время уменьшается. Этот процесс может остановить и «повернуть вспять» только «вмешательство мыслящего существа» (Л. Сциллард). Человек играет в истории Вселенной роль творца, роль строителя, созидателя и преобразователя окружающего мира.

И значит, еще и еще раз оказывается прав Маркс, когда он говорит о трудовой деятельности человека как его сущности: «воздействуя... на внешнюю природу и изменяя ее, он в то же время изменяет свою собственную природу». Но люди «не могут производить, не соединяясь известным образом для совместной деятельности и для взаимного обмена своей деятельностью. Чтобы производить, люди вступают в определенные связи и отношения, и только в рамках этих общественных связей и отношений существует их отношение к природе, имеет место производство».

Общественное познание — не просто рост количества информации в системе, называемой человечеством. Оно — отбор и обработка необходимой информации в процессе общественной практики.

В современной буржуазной философии критерию практики часто противопоставляется другой критерий — критерий индивидуального опыта. Верно то, что оказалось полезным для меня. Верно то, что в моей личной практике подтвердилось.

Такое понимание, в сущности, уравнивает человека с животным. Только животное руководствуется в своем поведении индивидуальным опытом. Человек потому только и Человек, что он в своей деятельности вообще, и прежде всего в трудовой, основывается не только на личной пользе, но и на общественной.

А теперь обернитесь назад и подумайте: реальна ли возможность создания «машинного человечества», которое воспроизводило бы все описанные на этих страницах характерные особенности настоящего человечества? Едва ли.

 

Сумасшедшая наука

Но есть еще одна причина, по которой функция средства познания, присущая языку, не воспроизводима при помощи ЭВМ и любого другого моделирующего механизма. Она может быть сформулирована так: научное познание нельзя формализовать, подчинить строгим и однозначным правилам — оно неалгоритмично. Альберт Эйнштейн выразил ту же мысль так: «Если вовсе не грешить против разума, нельзя вообще ни к чему прийти. Иначе говоря, нельзя построить дом или мост, если не пользоваться строительными лесами, которые, конечно, не являются частью сооружения».

Машина ужасающе логична. Она так же логична, как логичен был профессор Мюнхенского университета Джолли, к которому явился будущий автор квантовой теории Макс Планк после окончания университета и заявил о своем твердом решении посвятить себя теоретической физике. Джолли ответил: «Молодой человек, зачем вы хотите погубить свою будущность? Ведь теоретическая физика закончена. Дифференциальные уравнения сформулированы; методы их решения разработаны. Можно вычислять отдельные частные случаи. Но стоит ли отдавать такому делу свою жизнь?» И именно поэтому машина никогда не сделает великого открытия. Ибо всякая значительная научная идея должна быть, как говорят физики,«дикой» или «сумасшедшей». Она не может родиться как простое логическое продолжение или завершение предшествующего научного развития. Она должна быть плодом, по выражению Эйнштейна,«удивления» (Wunder); нужно на какой-то момент увидеть хорошо знакомое с совершенно новой стороны.

Иначе: наука не движется вперед рациональным путем, по накатанной дороге. Гений ученого впитывает в себя все: рациональное и нерациональное, науку и искусство, мысль и образ. «Достоевский дает мне больше, чем любой мыслитель, больше, чем Гаусс!» — воскликнул как-то Эйнштейн, на которого мы уже столько раз ссылались.

Нечего и говорить о роли индивидуального опыта ученого в научном прогрессе. Конечно, совершенно не обязательно было, чтобы на голову Ньютону упало яблоко; чтобы автор закона сохранения энергии врач Майер, вскрывая вену, обратил внимание, что в тропиках кровь ярче по цвету, чем на севере; чтобы жена доктора Гальвани коснулась ножом нерва препарируемой самим Гальвани лягушки как раз в тот момент, когда кто-то рядом возился с электрической машиной. Все это случайности. Но все они послужили толчком, облегчили рождение новой идеи, изменили и сократили тот путь, который ей пришлось бы пройти, ускорили выбор именно данного, а не иного ответа на заданный наукой вопрос. И не будь их, путь человеческого познания был бы иным, хотя, конечно, и закон всемирного тяготения, и закон сохранения энергии, и гальванический элемент появились бы на свет.

Нельзя запрограммировать ни скрипки Эйнштейна, ни яблока, падающего на голову Ньютона.