Кому вообще нужны люди?

Этот вопрос в той или иной риторической форме неизбежно возникает в спорах об автоматизации. Если люди по сравнению с компьютерами выглядят медлительными, неуклюжими и склонными к ошибкам, то почему бы не построить безупречную самоуправляющуюся систему, которая функционировала бы без вмешательства человека, а заодно и без его промахов? Почему бы не исключить из уравнения человеческий фактор?

«Нам нужно все перепоручить роботам», – объявил теоретик по технологии Кевин Келли в 2013 году в статье, напечатанной в журнале Wired. Ссылаясь на авиацию, он заявил: «Компьютерный мозг, называемый автопилотом, может без всякой посторонней помощи управлять Boeing-787, но мы по какой-то иррациональной причине сажаем в кабину пилотов, чтобы на всякий случай следить за автопилотом» [1]. Новость о том, что автомобиль Google попал в аварию из-за того, что в тот момент машиной управлял человек, заставила одного из блогеров в сердцах воскликнуть: «Нужно больше роботов-водителей!» [2] Комментируя трудности, с которыми столкнулись общественные школы в Чикаго, обозреватель The Wall Street Journal Энди Кесслер полушутя заметил: «Почему бы нам не забыть об учителях? Вместо них надо снабдить каждого ученика iPad или планшетом с Android?» [3] В 2012 году уважаемый в Кремниевой долине венчурный капиталист Винод Кхосла предположил, что здравоохранение можно было бы значительно улучшить, если бы медицинская компьютерная программа (доктор Алгоритм, как назвал ее Кхосла) перестала быть помощником врача, а заменила бы его полностью. «В конце концов, – писал Кхосла, – отпадет нужда в среднем враче» [4]. Лекарством от несовершенной автоматизации объявляется тотальная автоматизация.

Идея соблазнительная, но от нее за милю отдает упрощенчеством. Машины наследуют пороки и заблуждения своих создателей. Рано или поздно любая, даже самая передовая технология отказывает, ломается или, как в случае компьютеризованных систем, сталкивается с ситуацией, которую не предвидели ни конструкторы, ни программисты. В этом случае алгоритм становится в тупик. В начале 2009 года, всего за несколько недель до катастрофы в Буффало, у аэробуса А320 компании US Airways отказали все двигатели из-за столкновения со стаей гусей при взлете из нью-йоркского аэропорта La Guardia. Действуя умело и хладнокровно, капитан Чесли Сулленбергер и его второй пилот Джеффри Скайлс смогли в течение трех решающих минут плавно посадить машину в реку Гудзон. С борта удалось снять всех пассажиров и экипаж. Если бы на борту этого А320 не было «нянек» в лице пилотов, то все, кто находился на борту, погибли бы почти неминуемо, ибо у пассажирских лайнеров все двигатели сразу выходят из строя очень и очень редко.

Но иногда пилоты спасают машины при механических поломках, отказах автопилота, плохой погоде и неожиданных событиях. «Снова и снова, – писал в 2009 году немецкий журнал Spiegel в статье о безопасности на воздушном транспорте, – пилоты автоматически управляемых самолетов сталкиваются с жуткими сюрпризами, предусмотреть которые не могли никакие инженеры» [5].

То же самое можно сказать и о положении в других отраслях. В прессе широко освещалось происшествие с Google-мобилем, за рулем которого сидел человек; но мы практически ничего не слышали о тех случаях, когда водители, сидевшие в автоматических машинах Google, брали на себя управление, если компьютер с ним не справлялся. Правила Google требуют ручного управления на улицах жилых кварталов, а каждый, кто хочет покататься на компьютерном автомобиле, должен пройти курсы экстремального вождения [6]. Автоматические автомобили не такие уж и самостоятельные, как кажутся.

В медицине специалистам часто приходится пересматривать инструкции или назначения, сделанные компьютерами. Руководство госпиталей обнаружило, что назначения ими лекарств, устранив некоторые общие расстройства организма человека, создали новые проблемы. Проведенное в 2011 году в одном из госпиталей исследование показало, что число случаев повторного назначения одних и тех же лекарств возросло после внедрения автоматизированной системы [7]. Диагностические программы тоже далеки от совершенства. В большинстве случаев доктор Алгоритм поставит вам правильный диагноз и назначит адекватное лечение, но если набор ваших симптомов отличается от стандартного, то вы будете благодарить судьбу за то, что в кабинете оказался доктор Человек, который исправил неудачные назначения компьютера.

Потенциальных источников ошибок становится больше по мере усложнения технологии автоматизации, увеличения числа перекрестных связей, объемов баз данных и сетевых протоколов. Системы подвергаются «каскадам отказов», в ходе которых небольшая поломка в каком-то одном звене приводит к катастрофическим последствиям, вызывая разлад всей системы. В 2010 году группа физиков писала в журнале Nature: «Человек живет в мире взаимозависимых сетей. Различные элементы инфраструктуры, такие, как водоснабжение, транспорт, заправочные станции и электростанции, – все это соединено в единую систему электроникой и другими средствами, что делает их в высшей степени чувствительными к случайным сбоям и ошибкам» [8].

Становится все труднее выявлять вероятность наступления таких нарушений. «В промышленных машинах прошлого, – объясняет научный сотрудник MIT Нэнси Ливсон в своей книге “Engineering a Safe Word” (“Создание безопасного мира”), – взаимодействие между деталями можно было надежно спланировать, понять и защитить, а всю конструкцию машины – полностью протестировать, прежде чем запускать ее в действие». Современные высокотехнологичные системы уже не обладают этими свойствами. Они стали менее управляемыми в интеллектуальном смысле, чем их предшественники, собранные с помощью болтов и гаек [9]. Все части машины могут работать безупречно, но небольшая ошибка в конструкции способна привести к непоправимой катастрофе.

Опасность еще более увеличивается из-за невероятной скорости, с какой компьютеры принимают решения и начинают действовать. Это было наглядно продемонстрировано ужасным утром 1 августа 2012 года, когда крупнейшая торговая фирма Уолл-стрит Capital Group запустила новую автоматизированную программу для покупки и продажи акций. В этой суперсовременной программе был небольшой изъян, оставшийся незамеченным во время ее испытаний. Программа немедленно вздула валютные курсы своими абсолютно иррациональными распоряжениями, продавая ежесекундно акции на 2,6 миллиона долларов. Через 45 минут, которые потребовались математикам и программистам для того, чтобы разобраться в проблеме и остановить это безумие, программа успела растранжирить 7 миллиардов долларов, поставив компанию на грань банкротства. Через неделю консорциум других фирм Уолл-стрит компенсировал убытки Capital Group, чтобы избежать катастрофы на финансовом рынке.

Естественно, технология не стоит на месте, а неисправности всегда устраняются. Но безупречность работы автоматизированных систем, увы, навечно останется недостижимым идеалом. Даже если инженерам удастся создать совершенную систему, то ей придется подстроиться под наш мир. Беспилотные автомобили поедут не по улицам города Солнца. Роботы работают не в райских кущах. По небу по-прежнему будут летать гуси, а из туч – сверкать молнии. Убеждение в том, что когда-нибудь будет построена абсолютно самодостаточная, надежная автоматизированная система, – это не более чем утопия. К сожалению, такая вера характерна не только для высоколобых технократов, но и для инженеров и программистов, создателей этих систем. В своей знаковой статье, напечатанной в 1983 году в журнале Automatica, Лизанна Бэйнбридж, профессор инженерной психологии из Лондонского университетского колледжа (University College London), сформулировала причину наделения компьютерных систем все бо́льшими задачами, заключающуюся в том, что создатели программ часто считают людей «ненадежными и неэффективными» по сравнению с компьютерами. Люди, таким образом, превращаются в наблюдателей, пассивных созерцателей экранов [10]. Исследования вигильности операторов британских радаров, следивших за немецкими подводными лодками во время Второй мировой войны, показали, что даже высокомотивированный человек не способен внимательно следить за экраном монитора больше чем полчаса, если эта информация не меняется [11]. Людям становится скучно, они отвлекаются на посторонние мысли, концентрация внимания падает. «Это означает, – писала Бэйнбридж, – что человек физически не способен наблюдать за экраном, на котором долгое время не происходит ничего существенного» [12].

Поскольку навыки утрачиваются, если их не применять на практике, добавляет Бэйнбридж, то даже опытные операторы через некоторое время начинают работать как новички, если основная работа заключается в наблюдении, а не в действии. Инстинкты и рефлексы затухают, когда их не используют. У операторов возникают трудности с выявлением и оценкой возникающих проблем, а реакция на них становится медленной и обдуманной, исчезает автоматизм действий. В сочетании потери интереса к картинке с угасанием навыков кроется причина повышения риска нештатной ситуации, которая рано или поздно непременно произойдет. Как только это случается, разработчики аппаратуры вносят в нее усовершенствования, призванные еще больше ограничить роль оператора и тем самым усугубить вероятность его неверных действий. Убеждение, что человек является самым слабым звеном системы, становится принципом.

Эргономика – наука о правильной организации человеческого труда – восходит по меньшей мере к эпохе древних греков. Гиппократ в трактате «О вещах, относящихся к хирургии» помещает точные инструкции по поводу освещения и оснащения операционной, пишет, как надо раскладывать инструменты, пользоваться ими, и даже о том, во что должен быть одет хирург. В дизайне многих древнегреческих инструментов видны результаты размышлений о форме и весе инструмента, влияющих на производительность, выносливость и здоровье работника. В древних цивилизациях Азии мы тоже находим признаки приспособления орудий труда к физическому и психологическому удобству работника [13].

Однако лишь к моменту начала Второй мировой войны эргономика вместе с ее теоретической кузиной кибернетикой формально стала учебной и научной дисциплиной. Тысячам неопытных солдат надо было доверить сложное и опасное оружие и технику в условиях нехватки времени на обучение и тренировку. Благодаря Норберту Винеру и американским психологам Полу Фиттсу и Альфонсу Шапани, работавшим с личным составом ВВС, военные и промышленные специалисты научились понимать, что люди играют такую же существенную роль в успешной работе сложных технологических систем, как механические детали и электронные регуляторы. Невозможно создать машину, а потом – в духе Тейлора – заставить человека к ней приспособиться. Наоборот, надо конструировать машину, приспособленную к человеку.

Воодушевленные вначале патриотизмом и желанием внедрить компьютеры в торговлю, государственное управление и науку, большие коллективы психологов, физиологов, нейробиологов, инженеров, социологов и конструкторов начали обращать свои таланты и дарования на изучение взаимодействия людей и машин. Их внимание сосредоточивалось как на полях сражений, так и на производственных предприятиях, но цель была вполне гуманной: объединить людей и технологии в плодотворный, устойчивый и безопасный симбиоз, в гармоничное партнерство, позволяющее использовать лучшие свойства и качества обеих сторон.

Так, по крайней мере, должно быть. Однако слишком часто открытия и идеи эргономики, или, как ее сейчас называют, инженерной психологии, попросту игнорировали или, в худшем случае, душили на корню. Заботу о влиянии компьютеров и других машин на душу и тело человека обычно не берут во внимание из стремления добиться максимальной эффективности, скорости и точности или просто из желания получить как можно бо́льшую прибыль. Программисты, как правило, очень плохо знают эргономику и совершенно не интересуются достижениями инженерной психологии. Все усугубляется еще и тем, что инженеры и компьютерные специалисты, увлеченные математикой и логикой, не испытывают интереса к рассуждениям специалистов по эргономике. В 2006 году патриарх этой науки, Дэвид Мейстер, оглядываясь на свой жизненный путь, писал, что он и его коллеги всегда плыли против течения и внедрение достижений казалось им неожиданностью. «Ход технологического прогресса, – резюмировал он, – привязан к стремлению к прибыли; следовательно, прогресс мало задумывается о человеке» [14].

Так было не всегда. Люди впервые начали размышлять о техническом прогрессе как о движущей силе истории во второй половине XVIII века, когда научные идеи просвещения стали воплощаться в машиностроение. Не случайно то время стало эпохой политических потрясений. Демократические, гуманистические идеи просвещения увенчались революциями в Америке и Франции, и идеалы этих революций направили взгляды общества на науку и технику. Технические новшества высоко ценились (если не рабочими, то, во всяком случае, интеллектуалами) как средства политических реформ. Прогресс определяли в социологических понятиях, отводя технологиям вспомогательную роль. Такие мыслители просвещения, как Вольтер, Джозеф Пристли и Томас Джефферсон, видели цель развития новой науки и техники в том, чтобы они смогли стать инструментами разумного переустройства общества.

К середине XIX века реформистский взгляд на прогресс, по крайней мере в Соединенных Штатах, был оттеснен на второй план другим понятием прогресса, связанным именно с технологиями. «С дальнейшим развитием промышленного капитализма, – пишет Маркс, – американцы с непомерным пылом приветствовали развитие науки и техники, отделив его от целей социального и политического освобождения. …Вместо этого они устремили взгляд на инновации в наукоемких технологиях, которые сами по себе являются достаточным и надежным основанием прогресса» [15].

Едва ли стоит удивляться тому, что уже в наше время возможности компьютеров, как предполагала Бэйнбридж, определили разделение труда в сложных автоматизированных системах. Для увеличения производительности и снижения издержек на оплату труда контроль над самой разнообразной производственной деятельностью возлагают на компьютерные программы. По мере совершенствования их власть становится еще более всеобъемлющей. Чем больше технологии, тем лучше! Операторам из плоти и крови оставлены лишь те виды работ, до автоматизации которых пока не додумались составители программ, – вмешательство в производство в случае отказа автоматики. Людей все дальше и дальше оттесняют от «замкнутой петли» – от цикла, состоящего из действия, обратной связи и принятия решений в ходе текущих операций.

Специалисты по эргономике называют этот превалирующий подход автоматизацией, ориентированной на технологию. В результате почти религиозной веры в технологию и равного по накалу недоверия к человеку такая автоматизация заменяет гуманистические цели мизантропическими. Этот подход превращает беззаботную остроту мечтательных технофилов «кому вообще нужны люди?» в практическую этику программирования. В результате произведенные машины и программы прокладывают себе путь на предприятия и в дома, неся в жизнь человеконенавистнические идеалы. «Общество, – пишет Дональд Норман, специалист по когнитивной психологии и автор нескольких влиятельных книг о дизайне товаров, – невольно впало в ориентированное на технологию отношение к жизни, подразумевающее, что именно автоматизация определяет человеческие потребности, тем самым сводя людей к роли безропотных слуг, к которой они совершенно не приспособлены. Такой подход допускает сравнение людей с машинами и находит их неполноценными, неспособными на безупречные, повторяющиеся и точные действия». Несмотря на то что эта ориентация пронизывает теперь все наше общество, она извращает представления человека о самом себе. «Этот подход выставляет на первый план деятельность, которой человек не должен заниматься, и игнорирует его навыки и качества. Принимая машинно-ориентированный взгляд на жизнь, люди начинают оценивать вещи по их искусственным, механистическим достоинствам» [16].

Совершенно логично предположить, что к механистическому взгляду на жизнь наиболее склонны те, кто тяготеет к механике. «Движущей силой изобретения, – как сказал когда-то Норберт Винер, – часто является стремление исследователя увидеть, как закрутятся колесики» [17]. Также логично предположить, что именно такие люди будут руководить разработкой и конструированием сложных систем и компьютерных программ, которые ныне управляют жизнью общества или создают ее среду. По мере того как общество станет все более и более компьютеризированным, программист будет его фактическим законодателем, и тогда человеческий фактор окажется чем-то второстепенным. Необузданный технический прогресс станет оправданием и обоснованием самого себя. Судить о технологиях по их технологическим достоинствам – это значит дать изобретателям карт-бланш.

Пристрастное желание позволить самой технологии принимать решения по дальнейшей автоматизации имеет практическое преимущество. Оно сильно упрощает работу создателей систем. Инженерам и программистам надо теперь принимать во внимание только способности машин. Это позволяет сузить поле поиска и увеличить детализацию проектов. Такая особенность избавляет программистов от необходимости решать проблемы, связанные со сложностями, капризами и хрупкостью представителей рода человеческого. Привлекательная простота технологически ориентированной автоматизации является все же миражом. Игнорирование человеческого фактора отнюдь его не устраняет.

В статье «Automation Surprises» («Сюрпризы автоматизации»), напечатанной в 1997 году и многократно цитированной, специалисты по эргономике Надин Сартр, Дэвид Вудс и Чарльз Биллингс проследили происхождение технологически ориентированного взгляда на развитие общества. Авторы подробно рассказывают, как появление компьютера, сначала аналогового, а затем цифрового, сформировало у инженеров и предпринимателей идеалистический взгляд на системы, управляемые электроникой. В них увидели своего рода панацею от человеческой неэффективности и склонности к ошибкам. Упорядоченность и чистота компьютерных операций и получаемых результатов казались просто даром небес по сравнению с беспорядком человеческой деятельности. «Технологии автоматизации, – писали Сартер и ее коллеги, – были созданы для того, чтобы увеличить точность и повысить экономичность работы, а одновременно уменьшить нагрузку на оператора и сократить время и расходы на его обучение. Считалось возможным создание автономных систем, требующих минимума человеческого вмешательства, а значит, резко снижавших вероятность человеческих ошибок». Эта вера с железной неумолимостью привела к гипотезе о возможности разрабатывать автоматизированные системы, не обращая особого внимания на человека [18].

«Устремления и вера, лежащие в основе господствующего подхода к конструированию автоматизированных систем, – продолжают авторы, – оказались наивными и вредоносными. Несмотря на то что автоматизированные системы часто действительно повышали точность и экономичность операций, они не оправдали других надежд, породив целый ряд новых проблем. Большинство недостатков проистекает из того, что даже высокоавтоматизированные системы требуют для своей работы вмешательства оператора, а следовательно, общения и согласованности действий между человеком и машиной». Системы конструировались без учета особенностей людей, которые с ними работают, часто отличались ограниченной осведомленностью о выполняемой работе и были лишены осмысленного доступа к окружающему миру. Восполнить эти недостатки может только человек. Автоматизированные системы не знают, когда надо начинать диалог с человеком о своих намерениях или требовать от него дополнительной информации. Машины не всегда обеспечивают адекватную обратную связь с человеком, испытывающим трудности с определением текущего состояния автоматизированной системы и оценкой ее поведения, а следовательно, и с определением момента, когда необходимо вмешаться для предотвращения нежелательных действий автомата. «Многие проблемы, отягощающие работу автоматизированных систем, возникают из-за неспособности спроектировать взаимодействие человека с машиной так, чтобы оно имитировало основные свойства взаимодействия людей», – заключают авторы статьи [19].

Инженеры и программисты еще больше усугубляют проблему, когда скрывают принципы работы системы от оператора, превращая каждую из них в непроницаемый черный ящик. Нормальным людям не хватает ума или образования для того, чтобы понять все сложности и хитросплетения работы программ или роботов. Если подробно рассказать человеку об алгоритмах или процедурах, управляющих работой системы, то можно либо его смутить, либо – что еще хуже – поощрить на самостоятельные действия с программным обеспечением. Гораздо безопаснее держать людей в неведении. Здесь опять кроется попытка избежать ошибок человека, сняв с него ответственность. Но, как ни парадоксально, при таких условиях повышается вероятность ошибок. Неквалифицированный оператор – это опасно. Профессор эргономики из Университета Айовы (University of Iowa) Джон Ли пишет: «Для автоматизированных систем характерно применение контролирующих алгоритмов, в которые заложены способы, противоречащие стратегии и ментальной модели, свойственной человеку, работающему с системой. Если человек не понимает эти алгоритмы, то он не может предвидеть ни поведение, ни ограничения автоматизированной системы. …Человек и машина, опирающиеся на противоречащие друг другу принципы, кончают тем, что движутся в противоположные стороны. Неспособность человека понять принципы устройства машины, на которой он работает, может также подорвать уверенность в своей компетенции, что удерживает его от вмешательства, когда ситуация начинает выходить из-под контроля системы» [20].

Специалисты по инженерной психологии давно призывают программистов и разработчиков вычислительной техники отойти от ориентированного на технологии подхода и направить усилия на создание автоматики, нацеленной на человека. Проекты должны начинаться с тщательного рассмотрения сильных и слабых сторон людей, которые будут работать с новой машиной или каким-либо иным способом с ней взаимодействовать. Такой подход вернет техническое развитие к его гуманистическим принципам, вдохновлявшим первопроходцев эргономики. Задача в этом случае будет состоять в распределении ролей и обязанностей, основывающихся только на скорости и точности компьютера, но с учетом качеств человека и возможностей включения его в рабочий цикл [21].

Удивительно, но достигнуть такого равновесия нетрудно. За десятки лет эргономические исследования показали, что эта задача может быть решена рядом простых способов. Систему надо запрограммировать так, чтобы через короткие и нерегулярные интервалы контроль над работой передавался от компьютера оператору. Ожидание момента, когда может потребоваться принятие решений, заставит людей быть в тонусе, сохранять внимание и мотивацию, разбираться в ситуации и повышать квалификацию. Разработчики программного обеспечения могут ограничить объем автоматизации, предоставив людям возможность выполнять важные операции, а не быть пассивными созерцателями происходящих на экране событий. Предоставление человеку большего объема работы помогает поддерживать эффект порождения. Программист может также обеспечить оператора прямой и обратной сенсорной связью с системой на всех этапах работы, используя для этого звуковые и тактильные средства, а также визуальную информацию на дисплее. Регулярная обратная связь усиливает вовлеченность оператора в работу системы и помогает ему сохранять бдительность.

Одно из самых интересных последствий подхода, ориентированного на человека, – это адаптивная автоматизация. В соответствующих системах компьютер запрограммирован так, что он сам обращает пристальное внимание на работающего с ним человека. Разделение труда между программой и оператором постоянно корректируется в зависимости от того, что происходит в каждый данный момент [22]. Если компьютер уловил, что оператор должен выполнить какое-то сложное действие, то машина может взять на себя все сопутствующие работы. Избавленный от необходимости отвлекаться на второстепенные задачи оператор сосредоточится на решении главной проблемы. При спокойном течении событий ЭВМ может передать выполнение рутинных операций человеку, что позволяет ему сохранять осведомленность о ситуации и совершенствовать навыки. Используя аналитические возможности электроники в гуманистических традициях, адаптивная автоматизация ставит своей целью держать оператора на пике кривой Йеркса – Додсона, предотвращая как чрезмерное увеличение, так и уменьшение когнитивной нагрузки. Министерство обороны США, породившее в свое время систему Internet, в настоящее время вплотную занимается проектами «нейроэргономических» систем, которые, используя разнообразные датчики работы головного мозга и тела, могут улавливать когнитивное состояние человека, а затем регулировать параметры задач таким образом, чтобы компенсировать недостаток восприятия, внимания или рабочей памяти [23]. Адаптивная автоматизация сулит большие перспективы в отношении внесения толики человечности в отношения между обычными пользователями и компьютерами. Первые пользователи таких систем говорят, что чувствуют себя так, словно общаются с коллегой, а не с машиной.

Исследования последствий автоматизации в основном посвящены изучению больших, сложных систем, связанных с рисками, например с управлением самолетами, работой машинных залов больших предприятий и военными операциями. Отказ таких систем может привести к гибели людей и материальному ущербу. Однако эти исследования важны также и для разработки вспомогательной автоматизации принятия решений, которая используется врачами, юристами, менеджерами и другими специалистами при анализе данных. Эти программы многократно тестируют, чтобы сделать их простыми в обучении и использовании, но тем не менее ориентированная на технологии этика продолжает править бал. «В типичных случаях, – пишет Джон Ли, – экспертные системы работают как протезы, заменяющие несовершенное и непоследовательное человеческое мышление более точными компьютерными алгоритмами» [24]. Они создаются в первую очередь для того, чтобы вытеснить, а не поддержать человеческое суждение. С каждым следующим усовершенствованием скорости обработки введенных данных и прогнозной способности компьютера программист все больше передает ответственность за принятие решения от профессионала к программе.

Раджа Парасураман, много лет добросовестно изучавший личностные последствия автоматизации, считает, что это в корне неверный подход. Парасураман утверждает, что вспомогательные системы принятия решений работают лучше всего, если они дают профессионалу необходимую информацию в нужный момент, не сопровождая ее инструкциями о возможных действиях [25]. Самые умные идеи приходят человеку в голову, когда он имеет возможность самостоятельно обдумать сложившуюся ситуацию. Ли соглашается с Парасураманом: «Менее автоматизированный подход, который ставит оператора в положение человека, принимающего решение, имеет большие шансы на успех, – пишет он. – Лучшие экспертные системы предоставляют операторам альтернативы в выборе интерпретаций и гипотез». Дополнительная и часто неожиданная информация помогает противодействовать естественному пристрастию к компьютерным инструкциям, которое иногда мешает человеку принять верное решение. Такой подход подталкивает аналитика к рассмотрению проблемы под разными углами зрения и с учетом большего числа возможных вариантов. Ли подчеркивает, что система должна оставить принятие окончательного решения человеку. «В отсутствие совершенной компьютерной автоматики и при использовании таких подверженных критике систем, – говорит он, – вероятность совершения ошибки, как подтверждают проведенные исследования, становится ниже» [26]. Компьютеры отлично справляются с просмотром огромных массивов данных, но специалист все равно остается более тонким и мудрым мыслителем, чем его цифровые партнеры.

Создание защищенного пространства для мыслей и суждений опытных практиков является целью ученых, которые хотят добиться гуманистического подхода к автоматизации в творческих профессиях. Многие специалисты критикуют системы автоматизированного проектирования за их назойливость. Бен Трейнел, архитектор фирмы Gensler в Сан-Франциско, с похвалой отзывается о компьютерах, высоко оценивая их способность расширять границы возможного в архитектуре. В качестве примера он приводит спроектированную фирмой «Шанхайскую башню» – спиралевидный энергосберегающий небоскреб, спроектировать и построить который было бы невозможно без компьютеров. Тем не менее он выражает и беспокойство по поводу того, что буквализм компьютерных программ, вынуждающих архитектора четко определять смысл и назначение каждого геометрического элемента, введенного в систему, препятствует свободному поиску, которому способствует рисование эскизов от руки [27].

В 1996 году профессора архитектуры Марк Гросс и Эллен Йин-Луэнь предложили альтернативу буквалистскому программному обеспечению систем автоматизированного проектирования. Они создали концептуальную схему приложения с интерфейсом, напоминающим бумажный блокнот, который смог бы визуально передать намеренную неопределенность, неточность и расплывчатость в полученном компьютерном рисунке. Это придало бы компьютерному дизайну гипнотическую силу наброска [28]. Подобные предложения не раз звучали из уст и других ученых. Совсем недавно группа ученых Йельского университета (Yale University) под руководством Джулии Дорси создала прототип приложения, являющегося, по сути, «ментальным холстом». В нем сам архитектор имеет возможность, пользуясь сенсорным экраном, как устройством ввода, рисовать наброски в трех измерениях. «Архитекторы имеют возможность рисовать и заново перерисовывать линии, не будучи ограничены путами полигональной сетки или ригидностью каналов ввода параметров, – объясняют свою работу авторы. – Наша система позволяет поэтапно улучшать рисунок по мере прояснения идеи, не требуя геометрического совершенства до тех пор, пока замысел не созреет окончательно» [29]. Менее назойливые приложения раскрепостят воображение архитекторов.

Напряжение, существующее между двумя направлениями автоматизации – на технологию и на человека, – занимает не только ученых-теоретиков. Оно влияет на решения, принимаемые руководителями бизнеса, инженерами и программистами, а также правительственными чиновниками. В авиационной промышленности две фирмы, занимающие господствующее положение в проектировании и строительстве самолетов, находятся в этом конфликте по разные стороны баррикад. Фирма Airbus придерживается ориентации на технологию. Целью компании является создание самолетов, «защищенных от пилота» [30]. Следствием этого явилась замена массивного, установленного перед пилотом штурвала маленькой, почти игрушечной ручкой сбоку от кресла. Этот похожий на джойстик рычаг вводит в бортовой компьютер все необходимые данные, требуя от пилота минимального физического усилия, лишая его тактильного ощущения обратной связи с самолетом. В соответствии с идеалами стеклянной кабины пилот становится компьютерным оператором, а не летчиком. Кроме того, Airbus программирует компьютеры таким образом, чтобы отменять действия пилота в некоторых ситуациях для сохранения параметров полета в пределах заданных величин. Следовательно, таким самолетом управляет уже не пилот, а компьютер.

Boeing придерживается более ориентированной на человека стратегии в производстве самолетов. В своих проектах, которые способны были бы осчастливить братьев Райт, компания не допускает решений, позволяющих компьютеру отменять команды пилотов. Летчик управляет самолетом даже в экстремальных ситуациях. Инженеры компании сохранили массивный штурвал, напоминающий о былых временах авиации, его перемещение сопровождается ощущением сопротивления и обеспечивает обратную связь между человеком и самолетом. У летчика создается полная иллюзия, что он физически перемещает управляющие элементы крыльев и хвоста. Несмотря на то что этот штурвал всего лишь посылает сигналы на вход бортового компьютера, машина имитирует ощущение движения элеронов, закрылков и других управляющих механических элементов воздушного судна. Проведенные исследования показывают, что тактильный тип обратной связи эффективнее визуальной и лучше ориентирует пилота в плане положения самолета в пространстве. Такая автоматизация полностью соответствует утверждениями Джона Ли. Поскольку мозг обрабатывает тактильные сигналы независимо от зрительных, постольку «осязательные предупреждения» не приводят «к ухудшению в выполнении других, визуальных, задач» [31]. Можно сказать, что тактильная обратная связь в управлении самолетами Boeing освобождает пилота из плена стеклянного компьютерного колпака, вовлекая в реальное управление машиной в большей степени, чем пилота на самолете фирмы Airbus.

Компания Airbus делает великолепные самолеты. Некоторые пилоты гражданской авиации предпочитают летать именно на них, а не на Boeing, а параметры безопасности машин обеих компаний практически идентичны. Однако недавние несчастные случаи с участием Airbus выявили недостатки подхода, ориентированного на технологию. Некоторые авиационные специалисты считают, что конструкция органов управления самолетов этой компании сыграла роковую роль в катастрофе самолета Air France. Анализ записей «черных ящиков» показал, что все время, пока управлявший машиной первый пилот Пьер-Седрик Бонен тянул ручку на себя, его второй пилот, Дави Робер, не замечал этой фатальной ошибки. В кабине Boeing, наоборот, каждый пилот отлично видит штурвал коллеги и все его манипуляции. Мало того, оба штурвала движутся одновременно, как единое целое. Если один из пилотов берет штурвал на себя, то штурвал второго пилота движется в том же направлении. Визуальная и тактильная связь позволяет пилотам действовать синхронно и согласованно. Боковые ручки в самолетах Airbus плохо видны со стороны и не требуют никаких физических усилий при работе с ними и, к тому же, действуют независимо друг от друга. Пилот может пропустить неверное действие коллеги, особенно в нештатных ситуациях, когда он находится под действием стресса, и теряет способность концентрировать внимание.

Если бы Робер увидел и исправил ошибку Бонена раньше, то пилоты сумели бы выправить свой А-330. «Катастрофы самолета Air France, – сказал Чесли Сулленбергер, – скорее всего, можно было избежать, если бы пилоты вели Boeing с его автоматикой, ориентированной на человека» [32]. Даже Бернар Зиглер, блистательный французский инженер, бывший главным конструктором Airbus до ухода на пенсию в 1997 году, высказал недавно свои опасения по поводу философии конструирования, принятой в его компании. «Иногда я думаю, не делаем ли мы самолеты, слишком легкие в управлении, – сказал он в интервью писателю Уильяму Лангевише, данном в Тулузе, где находится штаб-квартира компании Airbus. – В более тяжелых в управлении машинах пилоты лучше сохраняют бдительность». Он даже пошутил, посоветовав компании встраивать дубину в сиденья кресел пилотов, чтобы она периодически давала им хорошего пинка [33]. Ветеран, конечно, шутил, но это замечание вполне соответствует исследованиям специалистов по инженерной психологии о сохранении человеческих навыков и внимания. Иногда хороший «пинок» или его технологический эквивалент – это именно то, что автоматизированная система должна время от времени давать оператору.

Когда Федеральное авиационное агентство (Federal Aviation Administration, FAA) в своем рекомендательном письме предложило авиакомпаниям побуждать своих пилотов чаще водить машины вручную, оно тоже фактически высказалось, хотя и довольно нерешительно, в пользу ориентированной на человека автоматизации. Агентство осознало, что попытка вернуть пилотов в петлю обратной связи сможет уменьшить вероятность человеческих ошибок, сгладить последствия сбоев автоматизированных систем и сделать авиационные путешествия более безопасными. Беспредельное увлечение автоматизацией – это не всегда самый мудрый выбор. FAA, в штате которого состоит много специалистов по инженерной психологии, обращает самое пристальное внимание на эргономику, планируя свой амбициозный проект NextGen – монументальную систему контроля национального воздушного сообщения. Одной из самых величественных целей проекта является создание аэрокосмических систем, приспособленных к человеку, компенсирующих его просчеты и улучшающих качество труда [34].

В финансовой сфере против натиска ориентированной на технологию автоматизации выступил Королевский банк Канады (The Royal Bank of Canada). Его руководство установило в операционных отделениях банка на Уолл-стрит оригинальную компьютерную программу (названную THOR), замедляющую передачу распоряжений о покупках и продажах, чтобы защитить их от манипуляций слишком торопливых биржевых спекулянтов. Когда замедлили выдачу распоряжений, обнаружилось, что торг стал чаще оканчиваться привлекательными для покупателей сделками. Банк признаёт, что идет на компромисс, сопротивляясь технологическому диктату быстрого потока данных. Воздерживаясь от скоростных торгов, он получает меньше денег на каждой отдельной сделке, но считает, что в долгосрочной перспективе верность клиентов и снижение рисков приведут к увеличению общей прибыли [35].

Один из бывших сотрудников банка, Брэд Кацуяма, пошел еще дальше. Заметив, что фондовый рынок сдает позиции под натиском биржевых маклеров, совершающих частые сделки, он создал новую и более честную биржу – IEX. Открытая в конце 2013 года биржа налагает строгие рамки на работу автоматизированных систем. Скорость потока данных регулируется таким образом, чтобы все участники торгов получали сведения о ценах и другую информацию одновременно, что нейтрализует преимущества алчных биржевых контор, помещающих свои компьютеры в непосредственной близости от биржи. IEX запрещает использование некоторых типов торга и вознаграждений, дающих преимущества быстрым алгоритмам. Кацуяма и его коллеги используют сложную технологию для уравновешивания шансов людей и компьютеров. В некоторых странах приняты законодательные акты, призванные обуздать автоматизированные торги. В 2012 году во Франции был введен небольшой налог на каждую сделку. Примеру Франции в следующем году последовала Италия. Алгоритмы быстрых торгов разработаны для стратегии скупки и продажи ценных бумаг мелкими порциями. Каждая сделка приносит минимальный доход, но таких сделок совершается несколько миллионов в минуту, и даже небольшой налог оборачивается крупными деньгами, что делает применение скоростных алгоритмов менее привлекательным.

Попытки направить автоматизацию в нужное русло внушают надежду. По крайней мере, некоторые компании и государства начали сомневаться в ее тотальных преимуществах, но это лишь исключение из правила, а перспективы масштабов использования остаются пока туманными. Как только автоматизация, ориентированная на технологию, берет верх, становится очень трудно изменить ход событий. Компьютерные программы начинают диктовать, как выполнять работу, формировать спрос покупателей, навязывать методы получения прибыли. По словам историка Томаса Хьюза, этот процесс является образцом «технологического давления» [36]. На ранних стадиях применения новых компьютерных технологий они были достаточно эластичными. Формы и методы их применения изменялись не только в зависимости от желаний разработчиков, но и исходя из интересов работников и всего общества в целом. Когда современная автоматизация внедряется в физическую инфраструктуру, в торговые и экономические учреждения, ее диктат становится невероятно трудно остановить. На этой стадии возникает интеграция технологии в общество, и она продолжает двигаться вперед, повинуясь своим собственным законам. Естественно, со временем и эти технологии устареют и будут заменены новыми, которые сохранят и увековечат применение технологического подхода к автоматизации.

Например, качество работы в гражданской авиации зависит от точности управления. Компьютеры лучше, чем пилоты, рассчитывают самый экономичный маршрут, самолеты могут сближаться на меньшие дистанции. Здесь и скрывается противоречие между желанием повысить квалификацию пилотов и дальней автоматизацией. Авиакомпании едва ли согласятся нести убытки, а законодатели не пойдут на ограничения возможностей бортовых компьютеров только ради того, чтобы пилоты оттачивали свое мастерство. Катастрофы, обусловленные отказами бортовых компьютеров самолетов, крайне редки, и с ними, как кощунственно это ни звучит, мы должны смириться ввиду эффективности и экономичности автоматизированных систем. В здравоохранении страховые и больничные компании смотрят на автоматизацию как на средство снижения расходов и повышения эффективности. Они почти наверняка будут вынуждать лечебные учреждения переходить на автоматизированное оказание медицинской помощи, несмотря на озабоченность врачей возможностью потерять самые ценные навыки и квалификацию.

На финансовых биржах компьютер совершает сделку в течение десяти микросекунд (то есть за одну десятимиллионную долю секунды), в то время как человеку на то, чтобы просто среагировать на новое событие, требуется приблизительно четверть секунды. Компьютер может выполнить десять тысяч сделок за то время, пока оператор просто моргнет глазом [37]. Скорость работы машины устраняет человека.

Обычно считается, что те или иные технологии, принятые в разных отраслях и способствующие их развитию, априори улучшают качество труда. Если исходить из такой точки зрения, то прогресс – это своего рода дарвиновская эволюция. Люди изобретают множество разнообразных технологий, они конкурируют между собой за пользователей и покупателей, но побеждает в этой борьбе самая лучшая из технологий. Выживают лишь наиболее приспособленные инструменты автоматизации. Это оптимистический взгляд на прогресс, подпитанный, по мнению покойного историка Дэвида Нобла, «…бесхитростной верой в объективную науку, экономическую рациональность и рынок». Но, как объясняет тот же Нобл в своей вышедшей в 1984 году книге «Forces of Production» («Производительные силы»): «Искаженный взгляд на вещи… рисует технологическое развитие как процесс, с одной стороны, автономный и нейтральный, а с другой – рассудочный и саморегулирующийся. В обоих случаях считают, что люди не влияют на него» [38]. Вместо сложностей, превратностей и интригующих подробностей истории взгляд на технический прогресс одаривает нас упрощенными фантазиями, основанными на прошлом опыте.

Нобл наглядно показывает сложный и извилистый путь, которым технологии завоевали всеобщее признание и влияние, на примере истории автоматизации машиностроительной промышленности за годы, прошедшие после Второй мировой войны. Изобретатели и инженеры предложили несколько разных технологий для программирования работы токарных, сверлильных и других станков. Каждый из методов имел как плюсы, так и минусы. Одну из самых простых и одновременно изобретательных систем, названную Specialmatic, изобрел дипломированный инженер Феликс Карузерс, выпускник Принстона. Систему продавала маленькая нью-йоркская компания Automation Specialties. При использовании ключей и наборных дисков, кодировавших и направлявших работу машины, Specialmatic передавал всю ответственность за программирование в руки квалифицированного механика, работавшего в цехе. «Оператор машины, – писал Нобл, – мог устанавливать и регулировать скорость подачи материалов в машину, опираясь на накопленный опыт, позволявший выполнять задания на основании вида, звука и запаха обрабатываемого металла» [39]. Система включала в работу опыт и знания рабочего, Specialmatic обеспечивал немалую экономическую выгоду: хозяевам заводов не надо было оплачивать труд многочисленных инженеров и консультантов для программирования. Система Карузерса удостоилась похвалы в журнале American Machinist, который отметил, что Specialmatic сконструирован так, что позволяет настраивать режим и программировать работу станка. Рабочий трудится с большей эффективностью, так как система позволяет ему сохранять контроль над машиной в течение всего цикла работы станка [40].

Но Specialmatic не смог удержаться на рынке. В то же самое время, когда Карузерс трудился над своим изобретением, командование ВВС США вкладывало деньги в научно-исследовательскую программу, осуществлявшуюся группой ученых МIT, имевшей давние и тесные связи с военным ведомством. Они разработали методику «численного управления» с помощью технологии цифрового кодирования – предшественницы современных цифровых компьютерных программ. Эта система не только осыпала разработчиков золотым дождем щедрых правительственных субсидий и подняла их престиж в научных кругах. Она очень понравилась владельцам и менеджерам предприятий, так как перед лицом растущего рабочего движения они стремились максимально автоматизировать производство, чтобы подорвать влияние рабочих и их профсоюзов. Система числового программного управления стала воплощением всеобщего восхищения цифровыми ЭВМ, появившимися после войны. «Разработанная в МIT система числового управления, – как позднее писал один из членов Society of Manufacturing Engineers (Общества фабрично-заводских инженеров), – была сложным и дорогим уродством» [41], но такие гигантские компании, как General Electric и Westinghouse Electric Company, с восторгом ухватились за эту технологию, не оставив Specialmatic ни единого шанса. Системе числового управления не пришлось доказывать свою живучесть в конкурентной эволюционной борьбе, она была объявлена победительницей еще до начала соревнования. Автоматизация, ориентированная на технологию, победила. Что касается широкой публики, то она так и не узнала, что выбор был сделан без нее.

Не следует возлагать вину за это на инженеров и программистов. Возможно, что они виновны в том, что временами увлекаются узкими механистическими прожектами и склонны к «техническому высокомерию», которое, выражаясь словами физика Фримена Дайсона, «…внушает людям иллюзию неограниченной власти» [42]. Но программисты и инженеры работают по заказам работодателей и клиентов. Разработчики программного обеспечения всегда сталкиваются с необходимостью компромиссов при написании программ для автоматизированных систем. Выполнение задач, связанных с развитием индивидуальных навыков, повышением квалификации и накоплением опыта, сковывают размах автоматизации и несколько снижают скорости производства и получения прибыли. Обучение также понижает эффективность производства. Бизнес, который всегда старается поднять до максимума производительность и свести издержки к минимуму, редко, а то и никогда не идет на такие уступки. Главная причина, по которой владельцы предприятий вкладывают деньги в автоматизацию, – это снижение стоимости труда и упрощение производственных операций.

Люди тоже почти всегда ищут для себя выгоды и удобства, когда выбирают программное приложение или компьютер. Им подойдут программы или устройства, которые облегчат нагрузку и освободят время, а не те, которые заставят тяжко и долго трудиться. Технологические компании, естественно, учитывают эти пожелания, разрабатывая свои продукты. Ожесточенная конкуренция существует между фирмами, предлагающими клиентам устройства и программы, требующие как можно меньше физических и умственных усилий. «В Google и во всех подобных фирмах, – говорит один из руководителей компании Алан Игл, объясняя политику многих компаний в создании программного обеспечения, – мы создаем технологии, которыми можно пользоваться, не включая мозги» [43]. Когда дело доходит до разработки и применения коммерческих программ, будь то промышленные автоматизированные системы или приложения для смартфонов, абстрактные рассуждения о судьбе человеческих талантов не могут соперничать с перспективой экономии времени и денег.

Я спросил Парасурамана, не думает ли он, что в будущем общество станет мудрее использовать автоматизацию, ослабив противоречие между компьютерными вычислениями и человеческими мнениями, погоней за прибылью и развитием личного опыта. Ученый на мгновение задумался, а потом произнес: «Я не настолько оптимистичен».

Интерлюдия. Грабитель могил

Я находился в затруднительном положении. Мне пришлось – из необходимости, а не по свободному выбору – завязать знакомство с полоумным грабителем могил по имени Сет Брайерс. «Я не ем, не сплю, не моюсь, и все это меня совершенно не волнует», – не без гордости сообщил мне Сет вскоре после того, как мы познакомились с ним на кладбище близ Кут-Чепеля. Сет знал, где я смогу найти интересовавших меня типов, и в обмен на сведения о них потребовал от меня помощи в перевозке нескольких свежих трупов мимо ранчо Кричли в пыльный призрачный город Тамблвид. Я правил лошадьми, а Сет сидел под тентом повозки и обыскивал тела в поисках ценностей. Это путешествие стало для меня настоящим испытанием. Мы проскочили мимо разбойников, сидевших у дороги в засаде (они были вооружены огнестрельным оружием, но в перестрелках я тоже не был новичком), однако, когда я попытался пересечь шаткий мостик близ Гаптус-Риджа, трупы в повозке сместились, и я не смог справиться с лошадьми. Она скатилась в овраг, и я на мгновение умер, захлебнувшись в фонтане хлынувшей крови. Через пару секунд я очнулся – только для того, чтобы снова пережить весь этот ужас. После полудюжины попыток я отчаялся когда-либо переехать этот проклятый мост.

Игра, в которую я играл, была не что иное, как превосходно оформленная, незатейливая «стрелялка» с открытым миром, под названием Red Dead Redemption. События разворачиваются в начале ХХ века на территории мифического штата Нью-Остин. Сюжет игры словно списан с фильмов Пекинпы . Начиная игру, вы принимаете роль стоически мужественного фермера, оказавшегося вне закона, по имени Джон Марстон, правая щека которого отмечена двумя глубокими символическими шрамами. Грубым шантажом Марстона принуждают искать для агентов ФБР его старых сообщников. Агенты держат в заложниках жену и малолетнего сына. Для того чтобы успешно закончить игру, надо провести этого вооруженного бандита по всей стране, преодолевая немыслимые препятствия, требующие нечеловеческого напряжения сил. Причем каждое следующее испытание труднее предыдущего.

Сделав еще несколько попыток, я наконец перебрался через мост вместе с ужасной труповозкой. Вообще, получив массу полезных сведений из сцен насилия, коими изобилуют и передачи ТV, я смог преодолеть все препятствия игры. В качестве вознаграждения мне показали, как Марстона – то есть моего игрового двойника – хладнокровно застрелили коварные агенты. Если не считать этого страшного конца, то я окончил игру с чувством глубокого удовлетворения. Я обуздывал мустангов, стрелял и свежевал койотов, грабил поезда, выигрывал сумасшедшие деньги в покер, сражался в рядах мексиканских революционеров, спасал проституток от пьяных деревенских мужиков и – в традициях фильма «Дикая банда»  – отправил из пулемета Гатлинга к праотцам целую армию негодяев. Я прошел проверку на прочность, и рефлексы человека среднего возраста меня не подвели. Победа не была эпической, но принесла чувство удовлетворения.

Видеоигры, как правило, проклинают те, кто никогда в жизни в них не играл. Это вполне понятно, так как там реками льется кровь. Но лучшие игры дают нам образцы для дизайна программного обеспечения, не говоря уже об их изобретательности и (хотя и не всегда) красоте. Эти программы показывают, что они могут стимулировать формирование навыков, а не вести к их атрофии. Для того чтобы играть в видеоигры, необходимо преодолеть массу трудностей, требующих предельного напряжения сил и таланта. У каждого действия есть цель, хорошая игра вознаграждается, при плохой – немедленно следует наказание (иногда ужасное, например в виде фонтана крови). Игры порождают ощущение движения в потоке, побуждая игрока совершать повторные маневры до тех пор, пока они не становятся автоматическими. Навык, которому обучается игрок, может быть простым и незатейливым, например, правильно работать пластиковой ручкой управления для того, чтобы провести воображаемую повозку по мосту. Человек усвоит этот навык намертво и сможет безошибочно работать ручкой в следующих эпизодах игры. Он становится специалистом, способным взорвать всех, кто встанет на его пути.

Компьютерные программы (за исключением видеоигр), к которым мы обращаемся в повседневной жизни, созданы для нашего удобства, или, как говорят их создатели, «простоты использования». Такими программами можно овладеть быстро, так как для работы с ними надо нажать несколько клавиш или пару раз щелкнуть мышкой. Так же как промышленные системы компьютерной автоматизации, эти приложения созданы для того, чтобы переложить бремя мышления человека на компьютеры. Даже сложные программы, созданные для музыкантов, звукооператоров и кинорежиссеров, становятся год от года все проще в применении. Сложные спецэффекты, создание которых требовало в прошлом высокой квалификации и большого опыта, теперь можно получить нажатием клавиш или смещением бегунка. Принципы работы программы не обязательно должны быть понятны пользователю, они включены в ее алгоритмы. Для людей, которые хотят получить эффект, не прилагая к этому никаких усилий, – это большое благо. Однако приспособление программ к уровню дилетантов принижает роль профессионалов.

Признанный специалист в области дизайна программного обеспечения Петер Мерхольц призывает программистов искать и находить «беспроблемные» и «простые» решения. Успешные устройства и приложения прячут свою сложность за дружественными интерфейсами, сводя к минимуму когнитивную нагрузку на пользователя. «Простые вещи не требуют размышлений. Необходимость выбора исключается, не надо напрягать память», – констатирует Мерхольц [1]. Этот рецепт создания приложений, как показали эксперименты Кристофа ван Нимвегена, позволяет обходить процессы обучения, становления навыков и запоминания. Заложенные в программах инструменты мало требуют от нас, но и немного дают.

То, что Мерхольц называет подходом, который «просто работает», имеет огромное значение. Всякий, кто пытался настроить будильник электронных часов, изменить настройки WiFi-роутера или разобраться в панели инструментов Microsoft Word, знает цену простоте. Слишком сложные устройства и программы заставляют нас тратить массу времени, но не дают ничего взамен. Верно, что мы не должны быть специалистами во всем на свете, однако предлагаемые программы берут на себя интеллектуальные и общественные функции. Такая замена становится весьма опасной. Она лишает нас не только радости познания, но и внушает чувство, что это познание ничего не стоит и к нему не надо стремиться. Вспомним для примера алгоритмы коррекции орфографических и синтаксических ошибок, которыми теперь снабжены практически все текстовые редакторы. Когда-то программы проверки орфографии исполняли роль наставников. Программа подчеркивала подозрительное слово, привлекала к нему ваше внимание и преподавала небольшой урок грамотности. Человек мог учиться в процессе работы над текстом. Теперь программисты добавили опцию автоматической коррекции. Такие системы мгновенно и исподтишка исправляют ошибки, не поднимая лишнего шума, не образуя обратной связи и убирая элементы познания.

Можно также взять для примера поисковую систему Google. В своей исходной форме она предназначена для запроса. Интерфейс был очень прост, но сервис заставлял пользователя обдумывать запрос, тщательно его составлять и отбирать ключевые слова для получения оптимального результата. Теперь все эти хлопоты остались в прошлом. В 2008 году компания ввела в поисковик опцию Google Suggest, систему, которая, опираясь на вероятностные алгоритмы, предвосхищает то, что вы ищете. Стоит вам ввести первую букву запроса, как Google тут же услужливо предлагает набор возможных запросов в оптимальной форме. С каждой следующей буквой набор предложений изменяется. За этим новшеством прячется настойчивое, почти маниакальное стремление к эффективности. Приняв на вооружение мизантропические ценности автоматизации, Google рассматривает человеческое познание как плохо отлаженный и неуклюжий биологический процесс, доверить который можно только и исключительно компьютеру. «Могу утверждать, что пройдет еще несколько лет, и на большинство запросов ответ будет даваться раньше, чем вы успеете дописать вопрос, – говорит Рэй Курцвейль, изобретатель и футурист, назначенный в 2012 году руководителем технического отдела компании. – Машина заранее будет знать, что вы хотели увидеть» [2]. Конечная цель – полностью автоматизировать акт поиска, выбросить из процесса изъявление человеческой воли.

Социальные сети, например Facebook, все больше проникаются такими же идеями. Они стараются упорядочить хаотичный процесс привлечения новых участников путем «статистического» приобретения новых друзей, «like» и другими символами симпатии и привязанности, а также автоматизированным управлением многих аспектов человеческих отношений. Основатель Facebook Марк Цукерберг приветствует все эти достижения как символ «беспрепятственного общения», не требующего никаких осознанных усилий. Есть отталкивающий момент в применении социальных сетей – это стандартизация связей между людьми. Человеческие отношения требуют доверия, обходительности и жертвенности, что, с точки зрения технократического ума, является источником неэффективности и неудобства. Общение становится похожим на привязанность потребителя к товару, которая легко формируется, но так же легко и исчезает.

Подобно чрезмерно назойливым родителям, не дающим детям поступать самостоятельно, Google, Facebook и другие изготовители программ для личного пользования способствуют уничижению и нивелированию тех черт характера, которые по крайней мере в прошлом считались незаменимыми для полноценной энергичной жизни: изобретательности, любопытства, независимости, упорства, отваги. Неужели в будущем люди будут пользоваться всеми этими добродетелями в их бутафорском виде, совершая виртуальные подвиги руками таких персонажей, как Джон Марстон, в иллюзорных мирах на экранах наших компьютеров?