Глава 1

Пропавшие личности

 

Программное обеспечение выражает идеи всего, от природы музыкальной ноты до природы личности. Оно же является объектом очень жесткого процесса «фиксации». Таким образом, идеи (в сегодняшнем мире, когда человеческая деятельность все больше управляется программным обеспечением) стали более подвержены «фиксации», чем в предыдущие эпохи. До сих пор основная часть «фиксированных» идей была не слишком плоха, но некоторые из так называемых идей 2.0 никуда не годны, и нам стоит от них отказаться, пока мы еще можем это сделать.

 

Фрагменты — это не люди

Примерно на рубеже веков с цифровой революцией что-то пошло не так. Всемирную паутину наводнили мелкие проекты, иногда называемые веб 2.0. Такая идеология пропагандировала радикальную свободу в пространстве Сети, но, по иронии, это скорее свобода для машин, чем для человека. Тем не менее ее иногда называют открытой культурой.

Анонимные комментарии в блогах, безвкусные видеошутки и легковесные мэшапы могут показаться тривиальными и безвредными, но в целом эта распространенная практика фрагментарного, обезличенного общения принизила роль межличностного взаимодействия как такового.

Сегодня коммуникации часто представляются сверхчеловеческим феноменом, находящимся выше отдельных личностей. Выросло новое поколение со сниженными ожиданиями того, чем может быть личность и кем способен стать отдельный человек.

Самая важная характеристика технологии — это то, как она меняет людей

Когда я работаю в лаборатории с экспериментальными цифровыми устройствами, такими как новые варианты виртуальной реальности, я все время помню, что любые изменения в деталях цифрового устройства могут иметь значительные непредвиденные последствия для людей, которые будут играть с этим устройством. Малейшее изменение в таких, казалось бы, мелочах, как легкость доступа к кнопке, иногда может полностью изменить поведенческие схемы.

Так, Джереми Бейленсон, исследователь из Стэндфордского университета, показал, что изменение высоты аватара в погружающей виртуальной реальности приводит к изменению самооценки и социального самосознания. Технологии являются нашим продолжением, и, как аватары в лаборатории Джереми, наши индивидуальности могут быть изменены под воздействием причуд гаджетов. Нельзя работать в информатике, не занимаясь в то же время и социальной инженерией.

Вы можете спросить: «Я веду блог, много читаю и пишу в „Твиттер“ и „Википедию“, как это может изменить меня?» или «Если я обращаюсь к коллективному разуму, то кто я?» Мы, изобретатели цифровых технологий, похожи на стэндап-комиков или нейрохирургов — наша работа связана со сложными философскими вопросами. К сожалению, в последнее время мы доказали, что философы из нас плохие.

Когда разработчики цифровых технологий пишут программу, которая требует взаимодействовать с компьютером так, как будто это человек, они просят вас признать где-то в уголке сознания, что вас самих тоже можно рассматривать как программу. Когда они создают интернет-сервис, который редактирует огромная анонимная толпа, они предлагают согласиться с тем, что толпа случайных людей есть организм с присущей ему точкой зрения.

Различные медиаконструкции стимулируют разные потенциалы человеческой природы. Мы не должны стремиться к тому, чтобы сделать менталитет толпы как можно более эффективным. Вместо этого мы должны стараться пробудить феномен индивидуального разума.

Что такое личность? Если бы я знал ответ на этот вопрос, то, наверное, мог бы написать компьютерную программу искусственной личности. Но я не могу. Быть личностью — не четкое руководство к действию, но поиск, тайна, вера.

Оптимизм

Для любого человека, не говоря о технологе, было бы трудно вставать утром без веры в то, что будущее может оказаться лучше прошлого.

В 1980-е, когда Интернет был доступен небольшому числу первопроходцев, мне часто приходилось спорить с людьми, которые боялись, что странные технологии вроде виртуальной реальности, над которыми я работал, смогут породить демонов человеческой природы. Не станут ли люди зависимыми от виртуальной реальности, как от наркотика? Не окажутся ли они запертыми в ней, будучи не в состоянии вырваться наружу, в физический мир, где живем мы все? Некоторые вопросы были глупыми, но некоторые оказались провидческими.

Как политика влияет на информатику

В те времена я входил в веселую группу идеалистов. Если бы вы в 1980-е годы заглянули на мой обед, скажем, с Джоном Перри Барлоу, который стал соучредителем Фонда электронных рубежей, или Кевином Келли, основателем и редактором журнала Wired, то услышали бы, что мы обсуждаем. Идеалы в мире технологий важны, но механизмы, посредством которых идеалы влияют на события, отличаются от существующих в любой другой сфере жизни. Технологи не занимаются убеждением, чтобы повлиять на вас, — по крайней мере, мы это делаем не очень хорошо. Среди нас есть несколько мастеров общения (типа Стива Джобса), но по большей части мы не слишком убедительны.

Мы увеличиваем ваши возможности с помощью удаленных глаз и ушей (веб-камеры и мобильные телефоны) и расширяем память (море подробностей в Сети). Вы получили новые средства связи с миром и другими людьми. И это может изменять ваше восприятие мира и самих себя. Мы вмешиваемся в вашу философию, манипулируя вашим когнитивным опытом непосредственно, а не опосредованно, через убеждение. Чтобы создать технологию, способную с неимоверной скоростью изменить будущее человеческого восприятия, нужна лишь небольшая группа инженеров. Таким образом, жизненно важные аргументы за и против взаимодействия человека с технологией должны приводиться разработчиками и пользователями до того, как средства манипуляции созданы. Моя книга об этих аргументах.

Сегодняшняя структура Сети не была неизбежной. В начале 1990-х существовала, наверное, дюжина многообещающих попыток разработать способ представления сетевой цифровой информации, который привлек бы наибольшее количество пользователей. Такие компании, как General Magic и Xanadu создали альтернативные способы с фундаментально различными свойствами, но все они остались в рамках лабораторий.

Один человек, Тим Бернерс-Ли, придумал то устройство веб, которое существует сегодня. В момент своего появления веб был минималистичен, поскольку практически не высказывал предположений, как должна выглядеть веб-страница. Он был также открытым, потому что не существовало страницы, более или менее предпочтительной для архитектуры, все были доступны всем. Кроме того, подчеркивалась ответственность автора, поскольку только владелец был способен сделать так, чтобы его сайт можно было посещать.

Первоначально Бернерс-Ли хотел помочь сообществу физиков, а не всему миру. Несмотря на это, атмосфера, в которой первые пользователи встретили веб, испытала влияние идеалистических дискуссий. В период до рождения веб большинство идей были радикально оптимистичными и получили признание в кругу ученых, а затем и во всем мире.

Поскольку, создавая информационные технологии, мы многое делаем впервые, есть ли способ узнать, как лучше всего это делать? Той почти абсолютной свободе, которая присуща цифровым системам, сопутствует дезориентирующая моральная дилемма. Мы это все придумываем — так что именно мы должны придумывать? Довольно, этой дилеммы просто не существует.

По мере увеличения размеров и сложности программное обеспечение способно стать ужасно запутанным. Когда к разработке подключаются другие программисты, оно может показаться настоящим лабиринтом. Если вы достаточно умны, то у вас получится написать любую небольшую программу с самого начала, но для того, чтобы успешно изменить большую программу, потребуются огромные усилия (и удача), особенно когда от этой программы уже зависят другие. Даже лучшие группы разработчиков периодически сталкиваются с массой программных ошибок и структурных головоломок.

Истинное наслаждение — писать небольшие отдельные программы, но поддерживать крупномасштабные проекты всегда мучительно. Именно поэтому цифровые технологии искушают психику программиста своего рода шизофренией. Идеальные и реальные компьютеры постоянно путают. Технолог хочет, чтобы все программы вели себя как совершенно новые и оригинальные, и использует любые психологические стратегии, чтобы не думать о компьютерах реалистично.

Возрастающая вероятность появления ошибок в программах во время их разработки может привести к полному замораживанию цифровых схем в процессе «фиксации». Такое случается, когда создано много программного обеспечения для работы с уже существующим. Значительные изменения ПО в момент, когда от него зависит множество другого ПО, — самое сложное. Так что этого почти не бывает.

Иногда появляется цифровой рай

Однажды, в начале 1980-х, конструктор музыкальных синтезаторов Дэйв Смит между делом придумал способ представления музыкальных нот. Он назывался MIDI и рассматривал музыку с точки зрения клавишника. MIDI состоял из цифровых моделей, представлявших события клавиатуры, такие как «клавиша нажата» и «клавиша отпущена».

Это означало, что невозможно было описать гладкие, плавные переходы, как у певца или саксофониста. MIDI мог воспроизводить мозаичный мир клавиш, а не акварельный мир скрипки. Но причин, по которым MIDI должен был бы описывать все многообразие музыки, не существовало, поскольку Дэйв хотел лишь соединить несколько синтезаторов, чтобы получить более широкую палитру звуков, используя единственную клавиатуру.

Несмотря на ограничения, MIDI послужил стандартом представления музыки в программном обеспечении. Для работы с этим стандартом были созданы музыкальные программы и синтезаторы, и очень скоро стало непрактично менять их или избавляться от всего этого. MIDI устоялся, и, несмотря на многократные, предпринимаемые в течение десятилетий попытки международных коммерческих, академических и профессиональных организаций изменить его, он все еще остается собой.

Стандарты и неизбежное отсутствие предвидения представляли неудобство и до компьютерной эры. Примером может служить размер колеи железных дорог. Лондонская подземка была спроектирована как узкоколейка с соответствующими тоннелями, которые сегодня не позволяют разместить на некоторых линиях кондиционеры. Просто нет места для отвода горячего воздуха из поездов. Сегодня из-за негибкого проектного решения, принятого более века назад, десятки тысяч жителей одного из самых богатых городов мира вынуждены ездить в душных поездах.

Программное обеспечение хуже железных дорог, потому что оно всегда должно точно соответствовать безгранично детализированному, произвольному, запутанному беспорядку, который невозможно отследить. Требования к разработчикам настолько обязательны и строги, что адаптация к меняющимся стандартам может стать бесконечной борьбой. Таким образом, если «фиксацию» можно считать гангстером в мире железных дорог, в цифровом мире это абсолютный тиран.

Жизнь на искривленной поверхности закона Мура

Фатальным аспектом информационных технологий является то, что отдельная разработка, появившись однажды и случайно заняв нишу, остается неизменяемой. С этого момента она становится постоянным инструментом, даже если ее место до момента укоренения занимала более совершенная разработка. Тогда простое раздражение перерастает в катаклизм, так как вычислительные мощности компьютеров растут экспоненциально. В компьютерном мире этот феномен известен как закон Мура.

С момента начала моей карьеры, что было не так давно, компьютеры стали в миллионы раз мощнее и несравнимо более распространены и связаны. Это примерно как если бы вы встали на колени, чтобы посадить дерево, а оно начало расти так быстро, что поглотило всю вашу деревню прежде, чем вы успели встать.

Программное обеспечение часто давит на разработчиков несправедливо тяжелым грузом ответственности. Поскольку мощность компьютеров возрастает экспоненциально, программисты должны быть очень аккуратны во время принятия решений. Последствия маленького, с первого взгляда незначительного шага часто вырастают до правил нашей жизни, которые невозможно изменить.

MIDI сегодня существует в вашем телефоне и миллиардах других устройств. Это каркас, на котором выстроена почти вся популярная музыка. Большая часть шума вокруг нас — фоновая музыка, рингтоны и звонки будильника — создана в MIDI. Все, что слышит человек, наполнено отдельными нотами, вписанными в сетку.

Однажды станет «фиксированной» и система описания речи, позволяющая компьютерам звучать лучше, чем сейчас, когда они говорят с нами. Эту систему могут адаптировать к музыкальному искусству, и тогда, возможно, будет разработан более гибкий и выразительный стандарт цифровой музыки. Но даже если это произойдет, тысячи лет спустя, когда наши потомки будут путешествовать на релятивистских скоростях к другим звездным системам, их слух, вероятно, покоробит какой-нибудь мерзкий писк MIDI-музыки — значит, настала пора перенастроить фильтры антиматерии.

«Фиксация» превращает мысли в факты

До MIDI нота представляла собой бездонную идею, превосходящую абсолютное определение. Для музыкантов это был способ мыслить, способ учить и документировать музыку. Это был ментальный инструмент, отличный от самой музыки. Например, несколько человек могли сделать нотную запись одной и той же мелодии и получить слегка различные результаты.

После MIDI музыкальная нота перестала быть идеей, превратившись в жесткую структуру, обязательную в аспектах жизни, ставших цифровыми. Процесс «фиксации» похож на волну, которая плавно омывает книгу правил жизни, стирая неопределенности мыслей по мере того, как все больше и больше мыслительных структур окаменевает, превращаясь в постоянную реальность.

Можно сравнить «фиксацию» с научным методом. Философ Карл Поппер был прав, когда утверждал, что наука — это процесс дисквалификации мыслей: о возникшей несколько тысяч лет назад идее того, что Земля плоская, уже нельзя рассуждать серьезно. Наука эмпирически и на серьезных основаниях удаляет нежизнеспособные идеи. Но «фиксация» удаляет варианты разработок на основании простоты программирования, политической разумности, моды или вообще случайности.

«Фиксация» устраняет те идеи, которые не вписываются в преобладающую систему цифрового представления. Кроме того, она умещает глубину идей, которые делает бессмертными, удаляя из них необъяснимые полутона смысла, которые отличают слово естественного языка от команды компьютерной программы.

Критерии, по которым наука отсеивает идеи, могут быть более привлекательными, чем критерии «фиксации». Но если мы не придумаем совершенно иной способ писать программы, «фиксация» в будущем нам гарантирована. Напротив, научный прогресс всегда требует решимости и способен остановиться из-за политики, отсутствия финансирования или любопытства. Возникает интересная проблема: как музыкант может лелеять более широкую и хуже определенную концепцию музыкальной ноты, которая предшествовала MIDI, если он весь день пользуется MIDI и общается с другими музыкантами посредством MIDI-фильтров? Должен ли цифровой музыкант просто уступить «фиксации» и принять конечную идею MIDI-ноты?

Если для того, чтобы задумываться о вещах, которые не могут быть вполне точно определены или реализованы в цифровом стандарте, важно найти грань тайны, то мы обречены на постоянный поиск совершенно новых идей и объектов и отказ от старых, вроде музыкальных нот. В этой книге я исследую вопрос: становятся ли люди подобными MIDI-нотам, то есть чрезмерно определенными и ограниченными тем, что может быть представлено в компьютерах. Это имеет важные последствия: мы можем теоретически отказаться от музыкальных нот, но нельзя отказаться от самих себя.

Когда Дэйв придумал MIDI, я был счастлив. Некоторые мои друзья из первой команды Macintosh создали аппаратный интерфейс, так что можно было использовать Mac для управления MIDI-устройствами, а я разработал программу быстрого создания музыки. Мы чувствовали невероятную свободу! Но нам следовало быть осмотрительнее.

К настоящему моменту MIDI стало очень трудно изменить, поэтому измениться пришлось культуре, чтобы выглядеть полнее, чем изначально задумывалось. Мы снизили ожидания от самых общих форм музыкального звука, чтобы технология стала адекватной. Это не было виной Дэйва. Откуда он мог знать?

Цифровое овеществление: «фиксация» превращает философию в реальность

Множество «фиксированных» идей о том, как разрабатывается программное обеспечение, происходит из старой операционной системы UNIX. Она обладает рядом характеристик, роднящих ее с MIDI.

Если MIDI ужимает музыкальные выражения с помощью ограничивающей модели действий с клавишами на музыкальной клавиатуре, UNIX делает то же самое со всеми вычислениями, используя события алфавитно-цифровой клавиатуры. Программы в UNIX часто похожи на симуляцию быстро печатающего человека.

Основная особенность UNIX — «интерфейс командной строки». В этой системе вы печатаете команду, нажимаете Enter, и команда выполняется. Унифицирующим принципом устройства UNIX является то, что программа не может знать, кто нажал Enter, человек или другая программа. Поскольку реальный человек печатает на клавиатуре медленнее, чем симуляция человека, важность точной синхронизации в этой конкретной идее подавляется. В результате UNIX был основан на дискретных событиях, которые не обязаны происходить в точно заданные моменты времени. Человеческий же организм основан на непрерывных процессах ощущений, познания и моторики, которые должны быть точно синхронизированы во времени. (MIDI, будучи основанным на дискретных событиях, происходящих в определенные моменты времени, попадает куда-то в промежуток между концепцией времени, осуществленной в UNIX, и временем человеческого тела).

UNIX выражает слишком большую веру в дискретные абстрактные символы и недостаточную веру во временную, непрерывную, неабстрактную реальность; он сильнее похож на пишущую машинку, чем на партнера в танце. (Возможно, пишущие машинки или текстовые редакторы должны откликаться немедленно, но пока это все еще не так.) UNIX «хочет» соединиться с реальностью так, будто реальность есть сеть быстрых машинисток.

Если вы хотите, чтобы компьютеры разрабатывались для посвященных людей так же, как и для всех остальных, UNIX надо признать неудачной конструкцией. Я понял это в 1970-е, когда пытался создать с его помощью чуткие музыкальные инструменты. Я надеялся сделать то, чего не делает MIDI, — возможность работы с переменчивыми, трудноуловимыми аспектами музыки — и обнаружил, что философия UNIX оказалась для этого слишком нестабильной и неповоротливой.

Аргументы в пользу UNIX опирались на то, что в ближайшие десятилетия компьютеры станут быстрее в миллионы раз. Идея была такой: увеличение скорости подавит проблемы синхронизации, о которых я беспокоился. Действительно, сегодня компьютеры в миллионы раз быстрее, а UNIX стал фоновой частью жизни. Есть довольно выразительные инструменты, работающие на UNIX, так что в некоторых случаях рост скорости был достаточным, чтобы компенсировать недостатки UNIX. Но не всегда.

У меня в кармане лежит iPhone, и разумеется, в нем работает то, что по сути является UNIX. Раздражает в этом гаджете странный набор непредсказуемых задержек в пользовательском интерфейсе. Вы ожидаете ответа, чтобы нажать виртуальную кнопку, но его нет и нет. Возникает странное напряжение, и интуицию замещает нервозность. Это призрак UNIX, который все еще отказывается приспосабливаться к ритмам моих тела и разума.

Я не специально выбрал для критики iPhone (который позже еще буду хвалить). С тем же успехом я могу привести в пример любой современный персональный компьютер. Windows не UNIX, но все равно разделяет идею того, что символ важнее потока времени и лежащей в его основе непрерывности опыта.

Досадное несоответствие между UNIX и миром, в котором движется человеческое тело и функционирует человеческий разум, — пример «фиксации», хоть и не катастрофической. Может быть, это даже поможет людям ценить старый физический мир, по мере того как виртуальная реальность будет становиться все качественнее. Если так, мои слова окажутся замаскированным благословением.

Философия застывшего программного обеспечения становится невидимой из-за повсеместного распространения

Еще более укоренившаяся идея — понятие файла. А ведь не так давно много ученых-компьютерщиков думали, что идея файла не такая уж и замечательная.

Например, в качестве первого дизайна чего-то вроде Всемирной паутины фонд Тэда Нельсона Xanadu придумал конструкцию из одного гигантского глобального файла. Первое поколение Macintosh, которое никогда не продавалось, не имело файлов. Вместо этого вся продуктивная деятельность пользователя накапливалась в одной большой структуре вроде одиночной персональной веб-страницы. Стив Джобс забрал проект у парня, который его начал, покойного Джефа Раскина, и файлы вскоре появились.

UNIX имеет файлы, Mac, поступивший в продажу, имеет файлы, Windows имеет файлы. Файлы стали частью жизни, мы учим понятию «файл» студентов-программистов, словно это часть природы. Более того, наша концепция файлов может быть более постоянной, чем концепция природы. Я могу представить, как однажды физики расскажут нам, что пора перестать верить в фотоны, потому что они нашли более верный способ думать о свете, но файл, скорее всего, будет продолжать жить.

Файл — это набор философских идей, воплощенный в вечной плоти. В число идей, выражаемых файлом, входит понятие того, что человеческий опыт может быть представлен в виде раздельных кусков, которые легко вообразить листьями абстрактного дерева, эти куски бывают разных видов и их надо сопоставлять с соответствующими программами.

Что означают файлы для самовыражения человека будущего? На этот вопрос ответить сложнее, чем на вопрос, как английский язык влияет на мысли англоязычных людей. По меньшей мере вы можете сравнить англофонов с теми, для которых родной язык — китайский. Файлы же универсальны. Идея файла стала настолько всеобъемлющей, что мы не можем эмпирически оценить ее, потому что не в состоянии придумать достаточно большую рамку, в которую она бы поместилась.

То, что случилось с поездами, файлами и музыкальными нотами, скоро может случиться с определением человеческого бытия

Стоит попытаться заметить, когда философия застывает в «фиксированном» программном обеспечении. Например, является ли благом широкое распространение анонимности, под псевдонимом или без оного? Это важный вопрос, потому что соответствующая философия того, как люди могут выражать свои мысли, настолько глубоко укоренилась в программном обеспечении Интернета, что мы можем никогда полностью не избавиться от нее. И даже не вспомнить, что все могло быть по-другому.

Мы должны хотя бы попытаться избежать этой особенно коварной «фиксации», которая еще не случилась. «Фиксация» заставляет нас забыть о свободах, которыми мы располагали в цифровом прошлом. Это может помешать увидеть свободы, которые есть в цифровом настоящем. К счастью, несмотря на всю сложность, мы все еще способны изменить некоторые проявления философии, уже застывающие в правилах, которыми мы пользуемся, чтобы понимать друг друга и окружающий мир.

Счастливая неожиданность

Возникновение Всемирной паутины было редким примером того, как мы получили новую, позитивную информацию о человеческом потенциале. Кто мог предположить (по крайней мере вначале), что миллионы людей вложат так много в проект без рекламы, угрозы коммерческого наказания, харизматичных фигур, политики идентичности, эксплуатации страха смерти и других, классических для человечества мотиваторов? Огромное количество людей делало что-то, потому что это казалось хорошей мыслью и было красивым.

Самые эксцентричные представители цифрового мира угадали, что так и случится, но все равно, когда это случилось, был шок. Оказывается, даже оптимистичная, идеалистическая философия может быть реализована. Заложите в программное обеспечение философию счастья, и, очень может быть, она станет реальностью!

Критику технологий нельзя оставлять луддитам

Но не все неожиданности были счастливыми.

Ваш покорный слуга, цифровой революционер, до сих пор верит в большинство замечательных идеалов, которые давали нам энергию для работы много лет назад. В центре была вера в природу человека. Мы были убеждены, что, если довериться отдельным людям, в результате получится больше пользы, чем вреда.

То, как с тех пор испортился Интернет, на самом деле неприятно. Главную идею раннего устройства Всемирной паутины заняли другие — о центральной роли воображаемых сущностей и о том, что Интернет как целое оживает и становится сверхчеловеческим созданием.

Схемы, построенные согласно этой новой, извращенной идеологии, отводят людям второстепенную роль. Мода на анонимность положила конец великому достижению 1990-х — открытым возможностям для всех. Шаг назад до некоторой степени добавил сил садистам, но самое ужасное, что он принизил роль обычных людей.

Это отчасти объясняется тем, что добровольческая деятельность оказалась чрезвычайно важной в первой итерации развития Всемирной паутины. Когда бизнес поспешил капитализировать новые возможности, он столкнулся с небольшой проблемой: культурная сторона, содержание Паутины, отлично функционировала без какого-либо бизнес-плана.

Google выдвинул идею связать рекламу и поиск, но данный бизнес был в стороне от того, что на самом деле люди делали в Сети. Это имело косвенные последствия, но непосредственно не повлияло на ход вещей. Первые волны Всемирной паутины на самом деле были очень энергичными, и каждая имела индивидуальность. Люди создавали персональные страницы, и они отличалась друг от друга. Часто они были странными, но у Всемирной паутины присутствовал вкус.

Естественно, предприниматели изобретали продукты, которые пробудили бы спрос (или по крайней мере создали бы гипотетические возможности для рекламы, которая однажды могла бы конкурировать с Google) там, где не было недостатка ни в чем и не существовало неудовлетворенных потребностей, кроме жажды наживы. Google нашел новую постоянную нишу, которая существует в силу природы цифровых технологий. Оказалось, цифровая система сопоставления людей и рекламы очень похожа на MIDI. Вот пример того, как цифровая технология может породить взрывной рост важности «сетевого эффекта». Каждый элемент системы — каждый компьютер, каждый человек, каждый бит — оказывается зависимым от абсолютного соблюдения общего стандарта, общей точки обмена.

В отличие от MIDI секретные стандарты Google спрятаны в его облаках, а не реплицируются в вашем кармане. Каждый, кто хочет разместить рекламу, должен ими пользоваться или оставаться в одиночестве, имея доступ к незначительной субкультуре, так же как цифровые музыканты должны использовать MIDI, чтобы работать вместе в цифровой реальности. В случае с Google монополия непрозрачна и проприетарна. (Иногда зафиксированные цифровые ниши проприетарны, иногда нет. И в том и в другом случае динамика одинакова, хотя коммерческие последствия могут кардинально различаться.)

Может существовать лишь один игрок, занимающий постоянную нишу Google, поэтому большинство возникавших конкурирующих схем не приносило денег. Бегемоты вроде Facebook изменили культуру в коммерческих целях, но на момент написания этой книги — без коммерческого успеха.

На мой взгляд, существовало множество способов сделать новые коммерческие проекты успешными, но вера компьютерных фанатов вела предпринимателей по определенному пути. Добровольная деятельность должна стать коммерческой, потому что критикуемая мной идеология процветает, когда вы можете притвориться, что всем заправляют компьютеры, а люди не делают ничего.

Бесконечное количество уловок, подкрепленных гигантскими инвестициями, поощряет молодых людей присоединяться к сетевому миру и создавать там стандартные виды присутствия на сайтах типа Facebook. Коммерческие интересы способствовали принятию стандартизованных конструкций вроде блога, а эти конструкции в некоторых своих аспектах, таких как комментарии, поощряли использование псевдонимов вместо гордой экстраверсии, характерной для первых волн Всемирной паутины.

Вместо того чтобы считать людей источником их собственного творчества, коммерческие агрегаторы и сайты представляют анонимные фрагменты творчества как продукты, которые могли бы упасть с неба или быть выкопанными из земли, тем самым скрывая их истинные источники.

Воцарение племени

Мы оказались там, где сейчас находимся, потому что одна субкультура технологов в последнее время приобрела больше влияния, чем остальные. У победившей субкультуры нет формального названия, я иногда называю членов этой группы кибернетическими тоталистами или цифровыми маоистами.

В число предков племени входят представители мира открытой культуры Creative Commons, сообщества Linux, люди, связанные с подходом к информатике с позиций искусственного интеллекта, приверженцы веб 2.0, сторонники обмена файлами вне контекста и другие. Их столица — Кремниевая долина, но у них есть базы по всему миру, везде, где создается цифровая культура. Их любимые блоги — Boing Boing, TechCrunch и Slashdot, а их посольство на родине — журнал Wired.

Естественно, я сгущаю краски; не каждый из членов перечисленных мною групп разделяет веру в то, что я критикую. Более того, проблема, которая меня беспокоит, в головах не столько самих технологов, сколько пользователей инструментов, пропагандируемых кибернетическими тоталистами.

Главной ошибкой современной цифровой культуры является то, что она раскалывает сообщество людей настолько мелко, что остаются лишь помехи. Потом вы начинаете заботиться о сетевой абстракции больше, чем о реальных людях, входящих в эту Сеть, несмотря на то что Сеть сама по себе ничего не значит. Значимыми всегда были лишь люди.

Когда я упоминаю племя, я не имею в виду каких-то отдаленных «их». Членами племени являются мои старые друзья, учителя, коллеги и попутчики. Многие мои знакомые со мной не согласны. Их заслуга в том, что я могу свободно выражать свои мысли, зная, что по-прежнему являюсь желанным членом нашего сообщества.

С другой стороны, я знаю, что в информатике существует очень четко выраженная гуманистическая традиция. Некоторые из известных личностей этой традиции — Джозеф Вейценбаум, Тед Нельсон, Терри Виноград, Алан Кэй, Билл Бакстон, Дуг Энглебарт, Брайан Кантвелл Смит, Генри Фукс, Кен Перлин, Бен Шнайдерман (он придумал «кликать» ссылку) и Энди ван Дам, наш старый учитель, повлиявший на поколения своих протеже, в том числе на Рэнди Поша. Другой важной фигурой гуманистической информатики является Дэвид Гелернтер, воплотивший в жизнь большую часть технической стороны того, что стало называться облачными вычислениями, а также многие потенциально полезные приложения облаков.

Необходимо упомянуть, что гуманизм в информатике, по-видимому, не связан ни с одним из культурных течений. Так, Тед Нельсон — дитя 1960-х, автор того, что могло стать первым рок-мюзиклом (Anything & Everything), немного бродяга и фигура контркультуры, если такая вообще когда-либо была. Дэвид Гелернтер, напротив, культурный и политический консерватор, который пишет для Commentary и преподает в Йеле. Тем не менее работы и того и другого вдохновляют меня.

Ловушка для племени

Намерения племени кибернетических тоталистов — добрые. Просто они следуют по пути, который ранее был с добрыми намерениями освещен фрейдистами и марксистами. И говорю я это не в уничижительном смысле. Я думаю о самых ранних воплощениях марксизма, например до того, как сталинизм и маоизм погубили миллионы.

Движения, связанные и с Фрейдом, и с Марксом, заявляли, что основа всего — рациональность и научное понимание мира. И те и другие считали себя воинствующими противниками сверхъестественных, манипуляторских религиозных фантазий. И тем не менее фантазии, которые породили обе идеологии, оказались не менее потусторонними.

То же самое происходит снова. Самопровозглашенное материалистическое движение, пытающееся основываться на науке, быстро становится похожим на религию. Очень скоро оно порождает свою собственную эсхатологию и свои откровения о том, что происходит на самом деле, — о важных событиях, которые не может понять никто, кроме посвященных. Сингулярность и ноосфера, идея о том, что коллективное сознание возникает благодаря всем пользователям Всемирной паутины, повторяют марксистский социальный детерминизм и фрейдистский анализ извращений. Мы торопимся вперед, на свой страх и риск пренебрегая скептической, научной работой, совсем как марксисты и фрейдисты.

Те, кто спешит сдернуть со всего покровы таинственности, как марксисты и фрейдисты, не могут договориться. Они просто не способны поверить, что я нахожу что-то общее между членами племени. К примеру, для них Linux и UNIX — совершенно разные системы, тогда как для меня они являются совпадающими точками на обширном холсте возможностей, даже если о большей части холста сегодня практически не помнят.

В любом случае будущее религии определится особенностями программного обеспечения, которое «зафиксируется» в ближайшие десятилетия, так же как будущее музыкальных нот и понятия личности.

Где мы сейчас находимся

Время сформулировать некоторые выводы. С возникновением Всемирной паутины произошло кое что удивительное. Когда замечательно открытый и неструктурированный информационный инструмент стал доступен большому числу людей, вера в доброе начало человека получила подкрепление. На данный момент эту открытость можно считать в значительной мере «зафиксированной». Ура!

В то же время не слишком замечательные идеи о жизни и ее смысле, такие как лишенная нюансов концепция музыкальных звуков MIDI и неспособность UNIX работать со временем так, как его воспринимает человек, тоже «зафиксированы».

Это допустимые жертвы, то, что я бы назвал потерей чувства прекрасного. Однако им противостоят и некоторые эстетические достижения. Цифровой мир выглядит лучше, чем звучит, потому что сообщество активистов, включая людей из Xerox Parc (особенно Алана Кэя), Apple, Adobe и академических кругов (особенно Дона Кнута из Стэнфорда), приложило немало усилий, чтобы избавить нас от ужасных шрифтов и других визуальных элементов, с которыми в противном случае мы были бы вынуждены жить.

Еще есть недавно придуманные элементы будущего опыта человека, вроде уже «зафиксированной» идеи файла, которая фундаментальна настолько же, насколько воздух, которым мы дышим. Файл теперь будет одним из базовых элементов истории человека, как гены. Мы никогда не узнаем, что это значит или что могли бы значить альтернативы.

В целом мы просто замечательно справились! Но сегодня на повестке дня стоят задачи, не похожие на предыдущие. Новые, готовые «зафиксироваться» конструкции веб 2.0 активно требуют от людей снизить самооценку. Одно дело — выдвинуть ограниченную концепцию музыки или времени в конкуренции с другими философскими идеями, которые также претендуют на «фиксацию». И совсем другое — сделать это с самой идеей личности.

Почему это важно

Если вам нравятся инструменты, которыми вы пользуетесь, то кто я такой, чтобы указывать, будто вы что-то делаете не так? Но примите к сведению следующее.

● Подчеркивать роль толпы означает снижать значимость индивидуальности в архитектуре общества. И когда вы просите людей перестать быть людьми, они возвращаются к поведению банд. Это ведет не только к власти троллей, но и к недружественному, неконструктивному сетевому миру в целом.

● Вычислительные облака изменили мир финансов. Финансовый успех все больше становится результатом манипуляций с облаками, а не разумных финансовых принципов.

● Есть предложения реформировать науку на похожих принципах. После этого ученые будут хуже понимать, что они делают.

● Поп-культура вошла в стадию ностальгического недуга. В сетевой культуре доминируют тривиальные мэшапы того, что существовало до появления мэшапов, и любители, реагирующие на сокращающиеся оплоты центральных массмедиа. Это культура реакции без действия.

● Духовность совершает самоубийство. Сознание пытается заставить себя перестать существовать.

Кажется, будто я составляю каталог всего плохого, что может случиться в будущем культуры по мере ее изменения технологией, но это не так. Все примеры на самом деле просто различные аспекты одной большой ошибки.

Глубокий смысл личности уничижается иллюзией битов. Поскольку отныне люди неизбежно будут соединяться друг с другом посредством компьютеров, мы должны найти альтернативу.

МЫ ДОЛЖНЫ ЗАДУМЫВАТЬСЯ О ТОМ, КАКИЕ ЦИФРОВЫЕ ОСНОВЫ ЗАКЛАДЫВАЕМ СЕГОДНЯ, ЧТОБЫ ПРИНЕСТИ ПОЛЬЗУ БУДУЩИМ ПОКОЛЕНИЯМ. МЫ ДОЛЖНЫ ВЕРИТЬ, ЧТО ЦИВИЛИЗАЦИЯ ПЕРЕЖИВЕТ ЭТОТ ТРУДНЫЙ ВЕК, И ПРИЛОЖИТЬ НЕКОТОРЫЕ УСИЛИЯ К СОЗДАНИЮ НАИЛУЧШЕГО ИЗ ВОЗМОЖНЫХ МИРОВ ДЛЯ ТЕХ, КТО УНАСЛЕДУЕТ НАШИ ДОСТИЖЕНИЯ.

По сравнению с множеством проблем, стоящих сегодня перед миром, дебаты о сетевой культуре могут показаться несвоевременными. Нам надо решать проблему глобального потепления, перехода на новый энергетический цикл, избежать войн с применением оружия массового поражения, поддержать стареющее население, придумать, как пользоваться преимуществами свободного рынка без того, чтобы быть подверженными его разрушительным сбоям, а также заняться другими насущными делами. Но цифровая культура и связанные с ней темы, такие как будущее частной жизни и прав интеллектуальной собственности, касаются того общества, в котором мы будем жить, если переживем вышеперечисленные угрозы.

У любой идеи из разряда «спасем мир вместе» есть список того, что каждый из нас может сделать: ездить на работу на велосипеде, собирать вторсырье и т. д. Я могу предложить подобный список в отношении проблем, о которых говорю.

● Не пишите анонимно, если только ваша жизнь на самом деле не находится под угрозой.

● Если вы участвуете в создании «Википедии», приложите еще больше усилий вне «Вики», пользуясь своим голосом и выражая свои мысли для привлечения людей, еще не осознавших, что им интересны темы, которые вы развиваете.

● Сделайте сайт, рассказывающий о том, кто вы такой, и не укладывающийся в образцы, доступные вам на сайтах социальных сетей.

● Время от времени размещайте видео, создание которого заняло у вас во сто крат больше времени, чем его продолжительность.

● Напишите пост в блоге, на который потребовались недели размышлений, прежде чем вы услышали внутренний голос, требующий самовыражения.

● Если вы пишете в Twitter, изобретайте, чтобы найти способ описать свое внутреннее состояние, а не просто внешние события. Это позволит избежать опасности поверить в то, что объективно описанные события определяют вас, так же как они определяют машину.

Вот лишь некоторые поступки, которые вы можете совершить, чтобы остаться личностью, а не стать источником фрагментов, эксплуатируемых другими.

Во всем этом программном обеспечении есть аспекты, которые можно сохранить более гуманистическими. Программа, обладающая особенностью Twitter предоставлять фоновый непрерывный контакт между людьми, наверное, могла бы избавиться от любви Twitter к фрагментам. Мы на самом деле этого не знаем, поскольку ниша еще не исследована и таких программ никто не создавал.

До тех пор пока вас определяет не программное обеспечение, вы помогаете расширять состав идей, которые будут использованы грядущими поколениями. Обычно нет ничего плохого в том, что человек любит среду, в которой ему приходится работать. Любите краски, если вы художник; любите кларнет, если вы музыкант. Любите (или ненавидьте) английский язык. Любовь к этим вещам — это любовь к тайне.

Но в случае цифровых творческих материалов вроде MIDI, UNIX и даже Всемирной паутины разумно быть скептически настроенным. Эти инструменты объединились лишь недавно, в них есть элемент случайности. Не попадите в наезженную колею, в которую они вас подталкивают. Если вы любите среду, состоящую из программного обеспечения, существует опасность, что вы окажетесь в ловушке чьих-то поспешных, незрелых мыслей. Боритесь с этим!

Значимость цифровой политики

В 1980-е и 1990-е шла активная борьба за визуальную элегантность в программном обеспечении. Это политическое движение принесло плоды, когда смогло повлиять на инженеров таких компаний, как Apple и Microsoft, у которых была возможность определить пути развития программ до того, как они «зафиксируются».

Только поэтому у нас есть приятные глазу шрифты и возможности гибкого дизайна. В противном случае их бы не было. Главенствующее, на первый взгляд, непреодолимое течение в мире программного обеспечения тянуло вычисления в направлении ужасных экранов, но этой участи удалось избежать, пока еще не стало слишком поздно.

Подобная кампания в поддержку гуманистических альтернатив должна сейчас проходить везде, где это возможно, оказывая влияние на инженеров, дизайнеров, бизнесменов и всех остальных. К сожалению, похоже, происходит обратное.

Сетевая культура до краев наполнена риторикой о том, каким должен быть верный путь к лучшему миру, и сегодня она имеет сильный уклон в антигуманистическую философию.

Будущее

Истинная природа Интернета является наиболее распространенной темой сетевых дискуссий. Примечательно, что Интернет достаточно вырос, чтобы содержать большое количество комментариев о своей собственной природе.

Продвижение поздней техно-политико-культурной ортодоксальности, которую я критикую, стало непрекращающимся и всепроникающим. The New York Times, к примеру, ежедневно продвигает так называемую политику открытой цифровой культуры, даже несмотря на то, что этот идеал и движение, стоящее за ним, разрушают саму газету и все остальные бумажные СМИ. Кажется, перед нами пример журналистского стокгольмского синдрома.

Еще не было адекватного публичного представления альтернативного видения мира, противостоящего новой ортодоксальности. Чтобы оппонировать ей, мне нужно было нанести не один удар. Мне также пришлось построить альтернативную интеллектуальную окружающую среду, достаточно просторную, чтобы путешествовать в ней. После долгого погружения в традиционализм человеку нелегко обрести перспективу — для этого фигура и фон в его восприятии должны поменяться местами. Этого не добиться несколькими альтернативными идеями, нужна новая всеобъемлющая архитектура взаимосвязанных идей, которая способна дать человеку другой взгляд на мир.

Так что в своей книге я начал длинный рассказ о вере в альтернативы вычислительному подходу к мышлению, о ноосфере, сингулярности, веб 2.0, «длинном хвосте» как успешной бизнес-модели в Интернете и всем остальном. Надеюсь, сила моих контраргументов позволит зародиться альтернативной умственной среде, где сможет появиться замечательная способность начать создавать новый цифровой гуманизм.

Неизбежным побочным эффектом этого проекта «распрограммирования путем погружения» является то, что я буду постоянно направлять поток отрицания на критикуемые мною идеи. Читатель, будь уверен: отрицание со временем ослабнет, последние несколько глав пропитаны оптимизмом.

 

Глава 2

Апокалипсис самоотречения

Идеи, которые, надеюсь, не будут похоронены на основании философской позиции, названной мною кибернетическим тотализмом. Эта позиция применяет метафоры некоторых разделов информатики в отношении человека и вообще реальности. В настоящей главе изложены практические возражения такой философии.

Что делать, когда технологи безумнее луддитов?

Сингулярность — апокалиптическая идея, изначально предложенная Джоном фон Нейманом, одним из создателей цифровых вычислений, и разъясненная такими деятелями, как Вернор Виндж и Рэй Курцвейл. Существует множество версий фантазии о сингулярности.

Например, вот что говорил Марвин Мински за обеденным столом в начале 1980-х: скоро, возможно во втором или третьем десятилетии XXI века, компьютеры и роботы смогут создавать свои копии, причем эти копии будут совершеннее оригинала благодаря интеллектуальному программному обеспечению. Второе поколение роботов создаст третье, и этот процесс пройдет быстрее благодаря усовершенствованиям, внесенным во второе поколение. Следующие поколения будут становиться все умнее, а процесс их создания начнет ускоряться. У людей будет сохраняться ощущение, что они контролируют ситуацию, пока в один прекрасный день скорость усовершенствования не достигнет критического порога и не появится суперинтеллект, который станет править на Земле.

В некоторых версиях истории роботы представали микроскопическими созданиями, «серой слизью», пожирающей Землю, либо сама Сеть вдруг оживала и объединяла все связанные ею компьютеры в армию, чтобы контролировать то, что происходит на планете. В результате люди получали возможность наслаждаться бессмертием в виртуальной реальности, поскольку глобальный мозг оказывался настолько огромным, что не составляло труда — не требовало мозгов, простите за каламбур — сохранить все наши индивидуальные личности навечно.

Грядущая сингулярность популярна в технологическом обществе. Книги о сингулярности так же привычны в разделе компьютерных дисциплин, как образы Апокалипсиса в евангелических книжных магазинах. (В том случае, если вы не знакомы с понятием Апокалипсиса, — это красочное представление о конце света, бытующее в американской евангелической культуре. В моем детстве в сельской местности Нью-Мехико изображения Апокалипсиса можно было частенько встретить на бензозаправках и в скобяных лавках. Обычно это были автомобили, врезающиеся друг в друга, потому что их добродетельных водителей призвали на Небеса перед тем, как на Земле воцарится ад. В чрезвычайно популярных романах серии «Оставленные» также описан подобный сценарий.)

В идеях, связанных с сингулярностью, возможно, и есть определенная доля истины в самом широком понимании реальности. Действительно, на некоем безграничном космическом уровне неизбежно будут возникать более высокие формы сознания, пока вся вселенная не превратится в мозг или что-то вроде того. Даже в более скромном масштабе миллионов или тысяч лет гораздо интереснее представлять, что человечество эволюционирует до некоего изумительного состояния, которое мы сейчас не способны представить. Единственной альтернативой такому сценарию может быть полное вымирание или глубокий застой, что явилось бы большим разочарованием, так что давайте надеяться на будущее совершенствование человечества.

Различие между здравым смыслом и фанатизмом состоит в том, насколько верующий в состоянии не спутать масштабы последствий. Если вы верите в Апокалипсис, в близость второго пришествия или иные чудеса, едва ли решение проблем нашей жизни будет для вас приоритетным. Вы даже можете с готовностью принимать войны, допускать существование бедности и болезней, поскольку они создают условия для приближения Апокалипсиса. Аналогично, если вы верите в скорый приход сингулярности, то можете прекратить разрабатывать технологии для служения человеку, вместо этого готовясь к великим переменам.

В любом случае никто никогда не узнает, были ли вы правы. Технологии, слаженно работающие во имя совершенствования условий жизни человечества, всегда на виду — например, в оптимистичных фантастических произведениях типа сериала «Звездный путь».

Сингулярность, однако, влечет физическую гибель людей и загрузку их сознаний в компьютер, где они продолжат осознавать себя, или даже аннигиляцию человечества в тот неуловимый миг, который предшествует воцарению на Земле сверхразума. Общим у Апокалипсиса и сингулярности является то, что живых свидетелей их пришествия не останется.

Для понимания информационных технологий необходим определенный уровень культурного развития

В новой цифровой реальности выдвигаются и более экстремальные утверждения. Биты представляются живыми, а человеческие существа — временными объектами. Должно быть, все эти анонимные видеоклипы и комментарии в блогах оставлены реальными людьми, но кто знает, где они сейчас, может, уже мертвы? Цифровой улей разрастается за счет индивидуальности.

Кевин Келли утверждает, что нам больше не нужны авторы, а идеи, фрагменты, которые раньше собирались в книги конкретными людьми, могут быть связаны в единую глобальную книгу. А редактор ежемесячного журнала Wired Крис Андерсон предлагает, чтобы наука больше не выдвигала теории, которые способны понять ученые, потому что вычислительное облако в любом случае поймет их лучше.

Антигуманистическая риторика завораживает так же, как завораживает фашизм: она нас оскорбляет, но мы не в силах от нее оторваться.

Антигуманистический подход к вычислениям является самой несостоятельной идеей в истории человечества. Компьютер не существует, если им не занимается человек. Есть теплая масса структурированного кремния, проводящего электрический ток, однако биты ничего не значат без образованного человека, способного их интерпретировать.

И это не солипсизм. Вы можете быть убеждены, что мир создан вашим разумом, но пуля все равно убьет вас. Однако виртуальная пуля даже не существует, если нет человека, способного распознать ее как образ пули. Пистолеты реальны в том смысле, в каком нереальны компьютеры.

Представлять человека устаревшим, чтобы компьютеры казались более продвинутыми

Похоже, сегодня множество интеллектуалов из Кремниевой долины без присущего им духа неудержимого любопытства приняли за данность то, что было лишь рассуждениями. Идеи, спрятанные в туманном мире лабораторий по созданию искусственного интеллекта, вышли на поверхность в технокультуре. Первая догма этой новой культуры: вся существующая реальность, включая людей, является одной большой информационной системой. Это не означает, что мы обречены на бессмысленное существование. Напротив, получается некое новое проявление предначертания, дарующее нам миссию. В данной интерпретации смысл человеческой жизни заключается в том, чтобы помочь цифровой системе, которую мы называем реальностью, функционировать на все более высоких «уровнях описания».

Люди притворяются, что знают, что такое уровни описания, но я в этом сомневаюсь. Считается, что веб-страница представляет собой более высокий уровень описания, чем буква, а мозг — более высокий уровень, чем веб-страница. Все более распространенным расширением такого представления является идея о том, что сама Сеть уже занимает более высокий уровень, чем мозг, — ну или скоро займет.

Человек в данной схеме не представляет собой ничего особенного. Скоро компьютеры станут такими большими и быстрыми, а сама Сеть — настолько информационно насыщенной, что люди превратятся в нечто устаревшее, либо в оставленных, как в апокалиптических романах, либо будут поглощены киберсверхчеловеческим нечто.

Культура Кремниевой долины старается закрепить эту смутную идею и занимается ее продвижением так, как могут только технологи. Поскольку реализация говорит громче слов, идеи способны распространяться через разработку программного обеспечения. Если вы верите в то, что различие между людьми и компьютерами начинает стираться, вы можете выразить свое убеждение — как однажды это сделали мои друзья из Microsoft — путем разработки функций для текстового редактора, которые предвосхищают ваши желания. Например, если вы хотите начать нумерованный список в документе, с которым работаете. Возможно, вы оказывались в ситуации, когда Microsoft Word внезапно, в самый неподходящий момент, предположил, что вы создаете список с отступом. И хотя я полностью приветствую автоматизацию рутинных задач, это нечто иное.

С моей точки зрения, такого рода программные функции — нонсенс, поскольку, чтобы справиться с предположениями о ваших вероятных действиях, постоянно выдвигаемыми программным обеспечением, вам приходится тратить больше усилий, чем если бы их не было вовсе. Такого рода функции не облегчают людям жизнь. Скорее, они продвигают новую философию: компьютер развивается в форму жизни, которая понимает людей лучше, чем они сами понимают себя.

Еще одним примером такой идеологии является то, что я называю «гонкой за звание Самого Мета». Если сервисы типа Facebook или Twitter несколько деперсонализируют людей, то другой сервис, вроде Friendfeed (который может вообще кануть в Лету к моменту выхода данной книги), возможно, вскоре выйдет на авансцену, чтобы агрегировать предыдущие уровни агрегации, делая отдельных людей еще более абстрактными, а иллюзию высокого уровня Мета-сервиса еще более выраженной.

Информация не заслуживает свободы

«Информация хочет стать свободной» — так говорят. Похоже, первым это сказал Стюарт Бренд, основатель издания Whole Earth Catalog.

А я считаю, что информация не заслуживает свободы.

Кибернетическим тоталистам нравится представлять информацию чем-то живым, имеющим собственные идеи и амбиции. Но что если информация не одушевлена? Что если она даже более чем не одушевлена и является лишь артефактом человеческой мысли? Что если лишь люди реальны, а информация — нет?

Конечно, технически существует термин «информация», которым описывается нечто вполне реальное. Это вид информации, который соотносится с энтропией. Но такой фундаментальный вид информации, существующий независимо от культуры наблюдателя, не является тем, что мы можем ввести в компьютер. Это не тот вид информации, который предположительно стремится к свободе.

Информация есть отчужденный опыт.

Можно рассматривать культурно декодируемую информацию как потенциальную форму опыта, аналогично тому как можно рассматривать лежащий на краю стены кирпич как тело, обладающее потенциальной энергией. Когда кирпич подвинут и начинает падать, потенциальная энергия себя обнаруживает. Но это возможно только потому, что ранее кирпич подняли на эту стену.

Подобным образом, сохраненная информация может преподнести опыт, если ее побудить на это определенным действием. Файл на жестком диске действительно содержит объективно существующую информацию. Тот факт, что биты различимы, а не перемешаны в кучу — подобно тому как жар сплавляет предметы, — и делает их битами.

Но биты потенциально могут для кого-то что-то означать лишь в том случае, если с ними что-то делают. Когда это случается, между хранителем и получателем битов действует общность культуры. Опыт — вот единственный процесс, способный открыть информацию.

Та разновидность информации, которая, как говорят, стремится к свободе, есть не что иное, как отражение нашего разума, и сама по себе она не может ничего хотеть и никуда стремиться. Ей не станет хуже, если она не получит того, что хочет.

Но если вы намерены отойти от старой религии с ее надеждой на то, что Господь дарует бессмертие в другой жизни, к новой, где вы мечтаете стать бессмертным, загрузившись в компьютер, то вам просто необходимо верить в то, что информация реальна и жива. Тогда для вас будет важно изменить человеческие институты — искусство, экономику и право, чтобы позволить укрепить представление об одушевленности информации. Вы требуете, чтобы остальные жили в рамках вашей новой концепции государственной религии. Вам нужно, чтобы мы обожествили информацию и укрепили вашу веру.

Яблоко падает снова

Это заблуждение, имеющее примечательные истоки. Его сформулировал Алан Тюринг незадолго до того, как покончил с собой.

В научных кругах самоубийство Тюринга — щекотливая тема. Об этом избегают говорить, поскольку мы не хотим, чтобы один из отцов-основателей выглядел как герой таблоидов и чтобы необычные обстоятельства его смерти затмевали память о нем.

Наследие Тюринга-математика превыше любых сенсаций. Его вклад поистине элегантен и фундаментален. С его помощью были сделаны огромные скачки в развитии, в том числе, математических основ цифровых вычислений. Высшая награда в области информатики, наша Нобелевская премия, названа в его честь.

Однако также необходимо признать Тюринга и культурной фигурой. Прежде всего надо понимать, что он был одним из величайших героев Второй мировой войны. Он был первым хакером — человеком, использовавшим компьютер для взлома систем безопасности врага. Например, он применил один из первых компьютеров для взлома нацистского шифра «Энигма», который математики считали неприступным. Сами нацисты декодировали «Энигму» с помощью механического устройства размером с сигарную коробку. Тюринг взломал шифр, преобразовав его в последовательность битов, которую можно было проанализировать с помощью компьютера. Кто знает, в каком мире мы бы сейчас жили, если бы Тюрингу не удалось взломать «Энигму»?

Второе, что надо знать о Тюринге, — он был геем в те времена, когда это было противозаконно. Британские власти, полагая, что совершают очень благородное дело, принудили его пройти шарлатанские медицинские процедуры, которые предположительно должны были скорректировать его гомосексуальность. Странно, но они заключались во введении больших доз женских гормонов.

Чтобы понять, как они додумались до такого плана, стоит вспомнить, что до того, как появились компьютеры, широко распространенной метафорой понимания природы человека был паровой двигатель. Сексуальное давление нарастало и приводило к поломке машины, поэтому противоположная сущность, женского рода, должна была сбалансировать механизм и снизить давление. Пусть эта история послужит предостережением. Всеобщее использование компьютеров, как мы их понимаем сегодня, в качестве источника моделей и метафор нас самих, по-видимому, настолько же оправданно, как и использование для этих целей парового двигателя годы назад.

У Тюринга выросла грудь и появились другие женские признаки, а также развилась тяжелейшая депрессия. Он покончил с собой, пропитав яблоко цианидом и съев его в своей лаборатории. Незадолго до смерти он опубликовал духовный текст, который нужно оценивать отдельно от его технических достижений. Это знаменитый тест Тюринга. По-настоящему новые духовные идеи появляются крайне редко, и то, что Тюринг сформулировал ее, — еще один пример его гения.

Тюринг представил идею в виде мысленного эксперимента, основанного на популярной викторианской салонной игре. Мужчина и женщина прятались, а арбитр должен был определить, кто есть кто, основываясь только на текстах передаваемых записок.

Тюринг заменил женщину компьютером. Сможет ли арбитр определить, где человек (мужчина)? Если нет, то имеет ли компьютер сознание? Разум? Заслуживает ли он равных прав с человеком?

Мы не можем знать, какую роль сыграла пытка, которой Тюринг подвергался, когда работал над этим текстом. Но невозможно отрицать, что одного из людей, сыгравших ключевую роль в разгроме фашизма, после окончания войны уничтожили мы сами, и лишь потому, что он был геем.

Неудивительно, что в своем воображении он задавался вопросами прав странных существ.

Ко времени смерти Тюринга программное обеспечение находилось в столь ранней стадии развития, что никто не мог себе представить, каким запутанным оно станет в будущем. Тюринг придумал чистую, кристаллизованную форму существования в цифровом мире, и, думаю, было облегчением представить себе форму жизни, отдельную от страданий плоти и политики сексуальности. Примечательно, что компьютером ученый заменил именно женщину и что самоубийство Тюринга повторило падение Евы.

Тест Тюринга работает в обе стороны

Каковы бы ни были мотивы, Тюринг придумал первую метафору, поддерживающую идею того, что биты могут жить своей жизнью, независимой от людей-наблюдателей. Эта идея с тех пор появлялась тысячи раз, от искусственного интеллекта до коллективного разума, не говоря уже о множестве раздутых стартапов Кремниевой долины.

Однако мне кажется, что тест Тюринга не совсем верно интерпретировался поколениями технологов. Обычно его приводят в защиту тезиса, что машины могут достичь того, что у людей называется разумом. В конце концов, если машина заставила вас поверить, что она разумна, утверждать после этого обратное было бы проявлением фанатизма.

Даже если Тюринг надеялся на что-то другое, на самом деле тест говорит только о том, что разумность машины можно оценить лишь относительно, глазами человека-наблюдателя.

В этой книге я критикую способ мышления, аналогичный искусственному интеллекту. Если машина может быть разумна, то вычислительное облако будет лучшим и гораздо более мощным разумом, чем разум отдельного человека. Если вы в это верите, то работа на благо вычислительного облака, а не отдельного человека ставит вас на сторону ангелов.

Но тест Тюринга работает в обе стороны. Вы не можете сказать, это машина стала умнее или вы снизили собственные стандарты понятия «разумный» до такой степени, что машина кажется умной. Если вы способны разговаривать с персонажем, представленным программой искусственного интеллекта, можете ли вы определить степень деградации вашего чувства личности, необходимую, чтобы иллюзия работала на вас?

Чтобы машины все время казались умными, люди сознательно деградируют. До кризиса банкиры верили в якобы умные алгоритмы, способные просчитать кредитные риски прежде, чем выдавать плохие кредиты. Мы требуем от педагогов обучения прохождению стандартизованных тестов, чтобы ученики хорошо выглядели с точки зрения алгоритма. Мы неоднократно демонстрировали беспредельную способность нашего вида снижать стандарты, чтобы информационные технологии выглядели хорошо. Каждое проявление разума в машине двусмысленно.

Та же двусмысленность, которая в прошлом послужила мотивом создания сомнительных проектов в области искусственного интеллекта, сегодня преподносится в виде массовой культуры. Действительно ли поисковик знал, что вам нужно, или вы подыгрываете, снижая стандарты, чтобы он казался умным? Хотя совершенно естественно ожидать, что восприятие человека будет меняться в результате взаимодействия с новыми технологиями: чтобы человек рассматривал разум машины как реальный, требуется ослабить собственную связь с реальностью.

Значительная часть адептов искусственного интеллекта после длительного периода неудачных экспериментов в таких областях, как распознавание естественных языков, в конечном счете нашла успокоение в восхищении коллективным разумом, который демонстрировал лучшие результаты, поскольку за сценой были реальные люди.

Например, «Википедия» основана на том, что я называю иллюзией оракула: знание об авторе подавляется с целью придать тексту сверхчеловеческую достоверность. Традиционные «священные» книги работают по такому же принципу и порождают много схожих проблем.

Это еще одна причина, по которой я иногда думаю о кибернетическом тотализме как о новой религии. Такое обозначение гораздо глубже, чем приблизительная метафора, поскольку включает новый тип поиска жизни после смерти. Для меня очень странно, что футуролог и изобретатель систем распознавания речи Рэй Курцвейл хочет, чтобы глобальное вычислительное облако вобрало в себя содержимое наших мозгов, с тем чтобы мы могли жить вечно в виртуальной реальности. Когда я с друзьями строил первую машину виртуальной реальности, единственной задачей было сделать этот мир более творческим, выразительным, сочувственным и интересным. А не убежать от него.

Множество на первый взгляд отличающихся друг от друга «гениальных идей», сводящихся к обожествлению иллюзий битов, восторгают Кремниевую долину, Уолл-стрит и прочие центры силы. На другом конце телефонной линии может оказаться «Википедия» или симуляция человека. Но на самом деле мы просто снова и снова становимся свидетелями повторения ошибки Тюринга.

Или рассмотрим шахматы

Возобладают ли в науке, экономике или культуре основанные на идее облака модные процессы над традиционными, требующими человеческого осмысления? Нет, поскольку лишь осмысление человеком позволяет существовать содержимому облака.

Культура освобождения фрагментов с затаенным дыханием ожидает будущего технологического триумфа, который приведет к сингулярности или другим подобным воображаемым событиям. Но уже существует несколько примеров того, как тест Тюринга был практически пройден, снижая степень персонификации. Одним из таких примеров служат шахматы.

Игре в шахматы присуще редкое сочетание качеств: очень просто понять правила, но очень трудно хорошо играть. И, что самое важное, попытки повысить мастерство игры кажутся бесконечными. Игроки добиваются все более высоких результатов, однако ни один из них не будет утверждать, что достиг высочайшего уровня.

Компьютеры и шахматы имеют общие корни. И те и другие возникли как орудия войны. Шахматы появились как симуляция битвы, мысленное боевое искусство. Конструкция шахмат даже напоминает о еще более отдаленном прошлом — временах нашего грустного животного наследия субординации и соперничающих кланов.

Аналогично и современные компьютеры были разработаны для управления ракетами и взлома секретных военных шифров. И шахматы, и компьютеры — прямые потомки насилия, которое движет эволюцию в живой природе, сколь бы абстрактным и санированным это насилие ни было в контексте цивилизации. Соревновательный дух практически осязаем и в информатике, и в шахматах, а когда их совмещают, адреналин просто захлестывает.

Для исследователей в области информатики шахматы привлекательны именно потому, что мы плохо в них играем. С нашей точки зрения, мозг человека обычно выполняет задачи, которые кажутся невыполнимыми, например распознает предложения, — однако мы не проводим состязаний по распознаванию предложений, поскольку эта задача кажется нам слишком простой и тривиальной.

Похожим образом нас очаровывают и расстраивают компьютеры. Научиться программировать могут и дети, тем не менее хорошо программировать чрезвычайно трудно даже для признанного профессионала. Несмотря на очевидный потенциал компьютеров, мы слишком хорошо знаем, что еще не придумали лучших программ для него.

Но всего этого недостаточно, чтобы объяснить выражение страха в обществе по случаю победы Deep Blue в мае 1997 года над чемпионом мира по шахматам Гарри Каспаровым как раз в тот момент, когда веб впервые начал оказывать заметное влияние на массовую культуру. Несмотря на шумиху в старых средствах массовой информации, было понятно, что публика реагировала искренне, и это чувство было глубоким. Тысячелетия мастерство игры в шахматы означало наивысший, наиболее чистый вид разума — а теперь компьютер мог играть лучше самого искусного человека.

Было много разговоров о том, остаются ли человеческие существа особенными и не становятся ли компьютеры равными нам. Сегодня такого рода новости не попали бы на первые полосы газет — способ мышления искусственного интеллекта настолько вбит в человеческую голову, что эти новости выглядели бы устаревшими. Но способ подачи события в стиле искусственного интеллекта был неудачен. На самом деле команда ученых построила очень быструю машину и нашла лучший способ представления проблемы выбора следующего хода в шахматной игре. Люди, а не машины сделали возможным это достижение.

Главной победой команды Deep Blue были ясность и элегантность мышления. Чтобы компьютер смог победить чемпиона мира по шахматам, необходимо, чтобы совпали два рода достижений: рост вычислительной мощности оборудования и повышение сложности и четкости, с которыми ведение шахматной игры представлено в программном обеспечении. Этот двойной путь затруднил предсказание точного времени, но не неизбежности триумфа компьютера.

Если бы команда Deep Blue не была столь успешна в решении программной задачи, компьютер все равно бы победил позже — просто за счет огромной вычислительной мощности. Таким образом, интрига была не в том, выиграет ли когда-либо компьютер у лучшего игрока-человека, а в том, какую роль в этом будет играть элегантность программирования. Deep Blue победил быстрее, чем мог бы, заработав тем самым очко в пользу элегантности.

Реакция общества на проигрыш Каспарова поставила важный вопрос перед сообществом исследователей в области информатики. Стоит ли описывать компьютеры как разумные или человекоподобные в каком-либо смысле? Проясняет ли такое представление истинную роль компьютеров в нашей жизни или, наоборот, размывает ее?

Всякий раз, когда компьютер представляют разумным, люди игнорируют некоторые аспекты проблемы, чтобы исключить из рассмотрения все, к чему компьютер слеп. В случае турнира Deep Blue — Каспаров это случилось с шахматами.

У шахмат есть аспект, который несколько роднит их с покером, — наблюдение за оппонентом, проекция уверенности. Несмотря на то что написать программу для «игры» в покер сравнительно просто по сравнению с программой для игры в шахматы, покер остается игрой, где главную роль несут тонкости невербальной коммуникации между людьми — блеф, искусство скрывать эмоции и понимать психологию оппонента и знание того, как вести себя в соответствии с полученной информацией. В результате победы Deep Blue покерную часть шахмат затмил абстрактный, алгоритмический аспект, хотя, по иронии, Каспаров проиграл именно в покерном аспекте.

По-видимому, Каспаров позволил компьютеру запугать себя, даже после того, как он показал, что способен иногда и выигрывать. Он мог выиграть, если бы играл с человеком, обладающим такими же способностями выбора хода, что и Deep Blue (по крайней мере Deep Blue версии 1997 года). Вместо этого Каспаров увидел каменное лицо там, где на самом деле абсолютно ничего не было. Хотя состязание не задумывалось как тест Тюринга, оно стало им, и Каспаров был обманут.

Как я уже упоминал, идея искусственного интеллекта переместила психологическую проекцию хороших качеств с программного обеспечения на другой объект: компьютер + толпа. Поэтому в 1999 году собралась википодобная группа, включая чемпионов по шахматам, чтобы сыграть с Каспаровым в онлайн-игру под названием «Каспаров против всех». Каспаров победил, и многие полагают, что лишь благодаря разногласиям участников группы. Мы, технологи, непрестанно интересуемся ритуалами, в которых пытаемся представить себе, что люди устарели.

Приписывание разума машинам, скоплениям фрагментов или другим божествам умников скрывает больше, чем показывает. Когда людям говорят, что компьютер разумен, они склонны изменять себя, чтобы казалось, будто компьютер работает лучше, а не требовать изменения компьютера для улучшения его работы. Люди уже склонны уступать компьютерам, виня себя в том, что цифровым гаджетом или онлайн-сервисом неудобно пользоваться.

Рассмотрение компьютера в качестве разумной, автономной сущности приводит к перевертыванию процесса разработки с ног на голову. Мы не можем себе позволить настолько почитать свои собственные творения.

Круг сопереживания

Самое важное, что надо знать о любой технологии, — как она меняет людей. Чтобы ответить на этот вопрос, я много лет пользовался мысленным приемом, который называю «круг сопереживания». Может быть, он окажется полезным и для вас. (Философ из Принстона Питер Сингер, часто упоминаемый в связи с правами животных, пользуется похожей терминологией и идеей, что на первый взгляд кажется простым совпадением.)

Воображаемый круг сопереживания каждый для себя строит сам. Этот круг ограничивает расстояние вокруг человека и включает те сущности, которые заслуживают сопереживания. Мне нравится термин «сопереживание», потому что в нем есть духовные нотки. Термины вроде «симпатия» или «лояльность» могли бы быть более точными, но я хотел, чтобы мой термин был слегка мистическим. Он должен как бы намекать, что мы не способны полностью осознать то, что происходит между нами и другими, что мы всегда должны оставлять возможность представления отношений в цифровой базе данных.

Если кто-то попадает в ваш круг сопереживания, вы вряд ли захотите увидеть, как его или ее убьют. Но то, что вне круга, — законный объект нападения. Например, многие поместят всех остальных людей внутрь круга, но большинство будет радо смерти бактерий, например, когда мы чистим зубы. И уж совершенно точно никто не будет беспокоиться по поводу бездушного камня, отброшенного с тропы.

Подвох в том, что некоторые сущности находятся близко к границе круга. Главные противоречия часто вызывает вопрос, должно ли что-то находиться внутри круга или сразу за ним. Например, идея рабства основана на том, что раба помещают вне круга, таким образом как бы делая его неодушевленным. Расширение круга так, чтобы включить всех людей и покончить с рабством, — одно из главных эпических противостояний в человеческой истории, и оно еще не вполне завершено.

Множество других противоречий хорошо описываются этой моделью. Борьба вокруг абортов по существу есть поиск ответа на вопрос, должен плод или эмбрион быть помещен внутрь круга или нет. Спор о правах животных задает тот же вопрос относительно братьев наших меньших.

Когда вы меняете содержимое вашего круга, вы меняете и концепцию самого себя. Центр круга смещается по мере того, как меняется его периметр. Либеральным импульсом является расширение круга, тогда как консерваторы стремятся ограничить рост круга или даже обратить этот рост вспять.

Инфляция сопереживания и метафизическая неопределенность

Существуют ли разумные причины того, чтобы не расширять круг сопереживания? Ответ положительный.

Бесконечное расширение круга сопереживания способно привести к угнетению, так как права потенциальных сущностей (как считают некоторые люди) могут вступить в противоречие с правами безусловно реальных людей. Очевидный пример этого — споры вокруг абортов. Если бы законодательное запрещение абортов не подразумевало власть над телами других людей (в данном случае — беременных женщин), то и больших противоречий не было бы. Мы бы быстро приспособились.

Расширение сопереживания может приводить к меньшему, но все равно существенному злу некомпетентности, упрощения, нечестности и нарциссизма. К примеру, вы не можете жить, не убивая бактерий. Не спроецируете ли вы свои собственные фантазии на одноклеточные организмы, которые в лучшем случае будут к ним безразличны? И получится, что дело в вас, а не в целях расширения круга? Начнете ли вы уничтожать чужие зубные щетки? Вы же не думаете, что спасенные вами бактерии морально эквивалентны бывшим рабам, а если думаете, не умаляете ли вы статус тех людей? Даже если вы можете с чистой совестью следовать своему стремлению освободить и защитить бактерии мира, не игнорируете ли вы реальность, зависимость друг от друга и мимолетность всего сущего? Вы можете стараться не уничтожать бактерии в некоторых конкретных случаях, но вы вынуждены убивать их, чтобы жить. И даже если вы готовы умереть за свои убеждения, вы не в состоянии предотвратить разложение вашего тела бактериями после вашей смерти.

Очевидно, пример с бактериями доведен до абсурда, но он показывает, что круг сопереживания имеет смысл только тогда, когда он ограничен. Если мы теряем конечность, мы теряем наши собственные центр и идентичность. Выдумка о фронте за освобождение бактерий может служить пародией на любое экстремистское движение как левого, так и правого толка.

В то же самое время я вынужден признать, что не в состоянии занять определенную позицию касаемо многих наиболее известных противоречий. Например, я целиком за права животных, но только лишь потому, что ханжа. Я ем курицу, но не могу есть головоногих — осьминогов и кальмаров, потому что безмерно восхищен их неврологической эволюцией. (Головоногие, кроме всего прочего, заставляют задуматься об отдаленном будущем технологий, которое избегает некоторых моральных дилемм, об этом я расскажу позже.)

Как я определяю свой круг? Я просто провел время с различными видами и решил, входят они в мой круг или нет. Я выращивал кур и как-то не чувствовал сопереживания к ним. Они немногим большее, чем пернатые механизмы с сервоприводами, особенно если сравнивать их с козами, которых я тоже выращивал и не стану есть. С другой стороны, мой коллега, исследователь в области виртуальной реальности Адриан Чеок, ощущает такое сопереживание к курам, что построил для них специальные костюмы телепогружения, чтобы дистанционно приласкать их прямо с работы. Всем приходится мириться с несовершенством возможности проводить четкие границы кругов сопереживания. Всегда будут случаи, когда разумные люди не смогут согласиться друг с другом. Но я не заставляю других людей не есть головоногих или коз.

Границу между личностью и неличностью можно найти где-то в эмбриональном развитии от зачатия до рождения или в развитии ребенка или подростка. Или эти границы лучше всего определять на философско-генетическом пути развития раннего человека, а может, в истории культуры древних крестьян, ставших современными горожанами. Граница может существовать где-то в континууме между маленькими и большими компьютерами. Может быть, она связана с вашими мыслями; может, способность к самокопанию или сопереживанию делает вас человеком. Вот лишь некоторые из многих предлагаемых способов определения личности. Но ни один из них не кажется мне оптимальным. Границы личности остаются размытыми и неоднородными.

Ограничение круга

То, что мы не можем точно определить, где должны располагаться границы круга сопереживания, не означает, что мы не в состоянии узнать о нем вообще ничего. А то, что мы можем быть лишь приблизительно моральны, не означает, что вообще не надо стремиться быть моральным. Термин «мораль» обычно используется для описания нашего отношения к другим людям, но в данном случае я применяю его в равной степени и к нам самим.

Доминирующая открытая цифровая культура придает обработке информации роль эмбриона в понимании религиозного права или бактерий в моей доведенной до абсурда фантазии. Это классическая ошибка, но последствия у нее новые. Я опасаюсь, что мы начинаем изменять себя таким образом, чтобы подходить под цифровые модели нас, и меня беспокоит вымывание сопереживания и человечности в ходе этого процесса.

Права эмбриона основаны на экстраполяции, тогда как права нормальной взрослой личности очевидны настолько, насколько вообще возможно, ведь личность говорит сама за себя. Существует множество примеров, когда трудно решить, что делать с верой в личность, поскольку обсуждаемая сущность, возможно, и заслуживает сопереживания, но не способна говорить сама за себя.

Должны ли права животных быть такими же, как права людей? Существуют и особенные опасности, когда некоторые люди слышат голоса, которые не слышат другие, и расширяют свой круг сопереживания. Это как раз те случаи, которые надо оставить людям, близким к конкретной ситуации, если такое вообще возможно. В противном случае мы погубим общую свободу, навязывая друг другу метафизические идеи.

В случае рабства оказалось, что рабы, как только у них появился шанс, не просто смогли говорить за себя, но сделали это очень хорошо. Несомненно, Моисей был личностью. Потомки более поздних рабов, как Мартин Лютер Кинг, демонстрировали необыкновенные красноречие и сопереживание.

Новое веяние в Кремниевой долине выражается в том, что некоторые люди — очень влиятельные люди — верят, будто слышат, как алгоритмы, толпы и другие нечеловеческие, существующие в Сети сущности говорят сами за себя. Однако я таких голосов не слышу и уверен, что те, кто слышит, обманывают себя.

Мысленные эксперименты: корабль Тесея встречается с бесконечной библиотекой Борхеса

Чтобы помочь вам научиться подвергать сомнению фантазии кибернетических тоталистов, предлагаю дуэль двух мысленных экспериментов.

Первый известен уже давно. Как рассказывает Дэниел Деннет, представьте программу, которая может симулировать нейрон или даже сеть нейронов. (Такие программы существуют давно и стали вполне качественными.) Теперь представьте крошечное беспроводное устройство, которое может посылать сигналы нейронам мозга и получать их. Грубые устройства, напоминающие эти, тоже уже существуют; в прошлом я помогал Джо Розену, реконструктивному пластическому хирургу из Дартмутской медицинской школы, создать подобное устройство — «нервный чип», и это была одна из первых попыток передать сигнал в обход поврежденного участка, используя протезы.

Чтобы начать мысленный эксперимент, наймите нейрохирурга, который вскроет ваш череп. Если это неудобно, проглотите наноробота, который умеет проводить операции на мозге. Замените нерв вашего мозга одним из этих беспроводных устройств. (Даже если бы такие устройства довели до совершенства, сегодня было бы невозможно их соединить. Искусственный нейрон должен был бы задействовать все те же синапсы — в среднем около семи тысяч, — что и удаленный биологический нерв.)

Затем искусственный нейрон соединяется по беспроводной связи с симуляцией нейрона в находящемся неподалеку компьютере. Каждый нейрон обладает уникальными химическими и структурными характеристиками, которые должны быть учтены в программе. Проделайте эту процедуру с остальными нейронами своего мозга. В человеческом мозге от 100 до 200 миллиардов нейронов, так что, если тратить хотя бы по одной секунде на нейрон, процедура займет десятки тысяч лет.

А теперь главный вопрос: после того как процесс завершен, вы все еще разумное существо?

Более того, поскольку за динамику вашего мозга полностью отвечает компьютер, вы можете забыть о физических искусственных нейронах и позволить программам, имитирующим нейроны, соединяться друг с другом. Теперь используется только программное обеспечение. Стал ли компьютер личностью? Если вы верите в разум, находится ли теперь ваш разум в компьютере или, возможно, в программном обеспечении? Этот же вопрос можно задать в отношении души, если вы верите в душу.

Больше Борхеса

Вот второй мысленный эксперимент. Он касается того же вопроса, но с другой стороны. Вместо того чтобы менять программу в компьютере, он меняет его конструкцию.

Для начала представьте замечательную технологию: массив летающих лазерных сканеров, который может измерить траектории градин в грозу. Сканеры отправляют всю информацию о траекториях на ваш компьютер посредством беспроводной связи.

Что можно сделать с этими данными? По счастью, в эксперименте есть замечательный магазин для гиков, Самый Большой Компьютерный Магазин, в котором продают компьютеры разнообразных конфигураций. Проще говоря, в нем есть все возможные компьютеры, за исключением некоторых, на самом деле имеющих очень большое количество логических схем.

Вы приходите в магазин с программой. Продавец выдает вам тележку, и вы начинаете примерять свою программу на разные компьютеры. Иногда вам везет, и программа, которую вы принесли из дома, запускается и разумное время работает без сбоев. Когда это происходит, вы кладете компьютер в тележку.

В качестве программы вы можете использовать даже данные о траекториях градин. Вспомните, что программа — не более чем список цифр; в Самом Большом Магазине Компьютеров должен найтись компьютер, на котором она запустится! Странно, что на каждом компьютере, на котором данные о траекториях градин запускаются как программа, эта программа работает по-разному.

Спустя некоторое время у вас есть несколько миллионов текстовых редакторов, удивительные видеоигры и еще куча программ для подготовки налоговой отчетности — вот вам результат запуска одной программы на компьютерах разной конфигурации. Это требует времени; в реальном мире вселенная, вероятно, не станет поддерживать условия для жизни достаточно долго, чтобы вы успели совершить покупку. Но мы проводим мысленный эксперимент, поэтому не привередничайте.

Дальше все просто. После того как вы заполнили тележку массой компьютеров, на которых запускаются данные о траекториях градин, присядьте в кафетерии магазина. Включите компьютер из первого мысленного эксперимента — тот, что воспроизводит ваш мозг. Теперь переберите все купленные компьютеры и сравните то, что каждый из них делает, с тем, что делает компьютер из первого эксперимента. Продолжайте, пока не найдете компьютер, который обрабатывает данные о траектории града так же, как программа, эквивалентная вашему мозгу.

Как вы узнаете, когда такой компьютер будет найден? Существует бесконечное множество вариантов. По математическим причинам вы никогда не можете быть абсолютно уверены, что именно делает большая программа и не возникнет ли ошибка. Но если вы нашли способ удовлетвориться качеством работы программы, имитирующей нейроны из первого эксперимента, значит, вы уже выбрали метод, с помощью которого примерно оцените большую программу. Или вы можете даже найти в своей тележке компьютер, который интерпретирует движение градин в произвольно заданный отрезок времени в точности так же, как программа активности мозга. Таким образом, динамика градин совпадает с программой мозга более чем в один отдельно взятый момент времени.

После того как вы проделали все это, стала ли гроза разумной? А душа у нее есть?

Метафизическая игра в наперстки

Альтернатива посыпания волшебной пылью людей — сыпать ее на компьютеры, цифровой улей-мозг, облако, алгоритм или иной кибернетический объект. Тут самое время задать вопрос: какой из вариантов безумнее?

Если вы пытаетесь убедить себя, что в таком понятии, как сознание, нет ничего волшебного, волшебство, которое в нем присутствует, может неожиданно возникнуть в ином месте в самый неподходящий момент и повредить вашей объективности ученого. Вы ввязываетесь в метафизическую игру в наперстки, от которой голова пойдет кругом. Например, вы можете предположить, что сознание — это иллюзия, однако по определению сознание — это понятие, которое не становится менее значимым, даже если оно иллюзия.

Сознание и время неким образом взаимосвязаны. Если вы попытаетесь удалить из сознания потенциальный намек на волшебство, вы придете к абсурдному приписыванию волшебных качеств времени.

Сознание находится во времени, потому что вы не можете испытать отсутствие времени и не можете изведать будущее. Если сознание — это не более чем ложные мысли в компьютере, которым является ваш мозг или вселенная, тогда что же такое находится во времени? Настоящий момент — единственное, что могло бы в нем находиться, — должен в таком случае быть автономным объектом, независимым от того, как он ощущается.

Вследствие относительности и латентности мыслей, возникающих в мозгу, с научной точки зрения настоящий момент является примерным понятием. У нас нет возможности определить как отдельный глобальный физический, так и конкретный когнитивный настоящий момент. Однако должна существовать точка отсчета, пусть даже очень неопределенная, чтобы появилась возможность вообще говорить на эту тему.

Вероятно, вы можете вообразить себе настоящий момент как метафизическую метку, путешествующую сквозь вневременную версию реальности, в которой прошлое и будущее уже «зафиксированы», как записывающую головку, движущуюся по жесткому диску.

Если вы уверены, что ощущение времени является иллюзией, то все, что у вас остается, — это само время. Нечто должно находиться в чем-то вроде метавремени, чтобы иллюзия настоящего момента имела место быть. Вы убеждаете себя, что время само путешествует сквозь реальность. Это абсурдная, закольцованная мысль.

Называть сознание иллюзией значит придавать времени сверхъестественное качество. Возможно, это некий призрачный недетерминизм. Либо вы можете выбрать другой стаканчик в игре и сказать, что время это естественно (не сверхъестественно), а настоящий момент — всего лишь вероятная концепция, возникшая благодаря сознанию.

Волшебную сущность можно тасовать как угодно, но когда остается волшебный след, лучше было бы просто ее принять, чтобы иметь возможность максимально ясно говорить о множестве вещей, которые действительно можно методично изучать или конструировать.

Признаю, когда вы допускаете законность существования метафизической идеи (например, потенциальную возможность сознания быть чем-то за пределами вычислений), возникает определенная опасность. Как бы вы ни старались не наполнять волшебство суевериями, вы можете подтолкнуть некоторых фундаменталистов или романтиков новой эры проповедовать странные убеждения. «Какой-то компьютерный гений в дредах говорит, что сознание может быть больше, чем компьютер? Значит, моя пищевая добавка точно работает!»

Однако в том, что инженер притворяется, будто знает больше, чем на самом деле, есть гораздо более серьезная опасность, особенно когда он может подкрепить иллюзию вычислениями. Кибернетические тоталитаристы, ожидающие пришествия сингулярности, безумнее, чем приверженцы пищевых добавок.

Армия зомби

Проникают ли фундаментально метафизические — или предположительно антиметафизические — поверья в практические аспекты нашего мышления или личности? Да, проникают. Они могут превратить личность в то, что философы называют зомби.

Зомби часто встречаются в философских мысленных экспериментах. Они в точности такие же, как люди, только без внутреннего опыта. Они бессознательны, но внешне это никак не проявляется. Зомби сыграли выдающуюся роль пищи для риторики вокруг проблемы «тело — разум» и исследований сознания. Было много споров о том, могут ли существовать настоящие зомби или внутренний субъективный опыт неизбежно скажется на внешнем поведении или каким-то образом приведет к измеримым процессам в мозгу.

Я утверждаю, что между зомби и личностью есть одно ощутимое различие: у зомби другая философия. Следовательно, зомби могут быть обнаружены только в том случае, если они профессиональные философы. Философы вроде Дэниэла Деннета, очевидно, являются зомби.

Не существует симметричных отношений между нами и зомби. К несчастью, лишь незомби в состоянии наблюдать симптомы зомбирования. Для зомби все выглядят одинаково.

Если в нашем мире существует достаточно зомби, я начинаю беспокоиться о потенциале самосбывающегося предсказания. Может, если люди притворяются, что они бессознательны или не имеют свободы воли, или что облако онлайн-людей есть личность, или если они полагают, что нет ничего особенного в перспективе индивидуальности, тогда, наверное, мы в состоянии именно этого добиться. Мы могли бы совместно добиться антиволшебства.

Люди свободны. Мы можем покончить с собой во благо сингулярности. Мы можем изменить свои гены, чтобы лучше поддерживать воображаемый коллективный разум. Мы можем превратить культуру и журналистику в занятия третьего сорта и провести столетия, перемешивая останки 1960-х и других эпох, до того как индивидуальное творчество вышло из моды.

Либо мы можем верить в самих себя. Случайно может оказаться, что мы реальны.

 

Глава 3

Ноосфера — просто другое название внутреннего тролля

Некоторые из выдуманных объектов кибернетического тотализма (вроде ноосферы, которая предположительно является глобальным мозгом, состоящим из мозгов всех людей, соединенных посредством Сети) мотивируют неудачные технологические построения. Так, конструкции, в центре которых лежит идея ноосферы, имеют тенденцию возбуждать внутреннего тролля, или попросту плохое в человеке.

Моральный императив создать безликую, насколько это возможно, Библию

В соответствие с новым учением мы, технологи, превращаем самих себя, планету, наш вид, вообще все во внешние устройства, подключенные к огромным вычислительным облакам. Теперь все происходит не с нами, а с огромным вычислительным объектом, который больше нас.

Коллеги, с которыми я не согласен, часто рассматривают наши дискуссии как спор между луддитом (это я-то луддит?) и будущим. Но ведь возможно более одного варианта технологического будущего, и спор должен вестись о том, как лучше выявить и как лучше поступить с теми свободами, которые у нас еще остались, а не о том, кто из нас луддит.

Некоторые утверждают, что скептики вроде меня, подвергающие сомнению единственно верный путь, похожи на высохших средневековых служителей церкви, боровшихся с печатным прессом Иоганна Гутенберга. Нас обвиняют в том, что мы боимся перемен, точно так же как средневековая церковь боялась печатного пресса. (Нам могут также заявить, что такие, как мы, репрессировали бы Галилея или Дарвина.)

Все эти критики забывают, что сам по себе печатный пресс не дает гарантии просвещенного исхода. Ренессанс был сделан руками людей, а не машинами. К примеру, сегодняшняя печатная продукция Северной Кореи — не более чем пропаганда культа личности. В печатных прессах важны авторы, а не машина.

Как только речь заходит об авторстве, Кремниевую долину охватывает непреодолимая потеря слуха. Это стало абсолютно ясным, когда Джон Апдайк и Кевин Келли в 2006 году обменялись взглядами на авторство. Кевин считает, что, когда все книги мира будут оцифрованы и доступны для поиска, а отрывки из них можно будет перемешать, они быстро станут «одной книгой» в универсальном вычислительном облаке, и что это не просто хорошо, но и является «моральным императивом».

Чтобы передать важность сохранения различий между отдельными авторами, Апдайк использовал метафору обрезов физического листа бумаги в физической книге. Это было бесполезно. Доктринеры-энтузиасты веб 2.0 лишь посчитали, что Апдайк излишне сентиментален в отношении старых технологий.

Тот подход к цифровой культуре, который я ненавижу, действительно превратит все книги в одну, как прогнозировал Кевин. Этот процесс может начаться уже в следующем десятилетии или около того. В ходе крупного «Манхэттенского проекта» оцифровывания культуры Google и другие компании сканируют библиотечные книги и помещают их в облако. Важно, что произойдет дальше. Если книги в облаке будут доступны через интерфейсы, поощряющие мэшапы фрагментов, которые скрывают контекст и авторство, останется лишь одна книга. Именно это сегодня происходит с большой долей контента; часто вы не знаете, откуда взята цитата в новостях, кто написал комментарий или снял видео. Продолжение существующего тренда сделает из нас что-то похожее на средневековую империю или Северную Корею — общество с единственной книгой.

Случилось так, что «божественная» технология замены печатного станка цифровым получила серьезный толчок как раз в то время, когда в технологической культуре доминирует заслуживающая сожаления и критикуемая мной идеология. Авторство — сама идея индивидуальной точки зрения — в новой идеологии приоритетом не является.

Сегодня цифровое низведение выражения мыслей до глобального шума еще не навязывается сверху, как это можно наблюдать в случае печатных станков Северной Кореи. Вместо этого устройство программного обеспечения встраивает идеологию в те действия, которые наиболее просто осуществить в программах, получающих массовое распространение. Используя эти инструменты, люди могут писать книги, или блоги, или что угодно, но экономика бесплатного содержания, динамика толпы и владельцы агрегаторов поощряют их публиковать фрагменты вместо продуманных мнений или аргументов. Усилия авторов оцениваются так, что границы между ними стираются.

Одна коллективная книга — это совсем не то же самое, что библиотека книг, написанных личностями, которых она обанкротит. Некоторые верят, что это к лучшему; другие, включая меня, считают, что это ведет к катастрофе. Как в известной фразе из «Пожнешь бурю»: «Библия — это книга… но это не только книга». Любая отдельная, исключительная книга, даже коллективная, аккумулированная в облаке, становится жестокой, если доступна только она одна.

Редукционизм компьютерных фанатиков

Одной из первых печатных книг помимо Библии, была Hypnerotomachia Poliphili, или «Любовное борение во сне Полифила», 1499 года, иллюстрированное эротическое оккультное приключение в фантастическом архитектурном окружении. Что особенно интересно в этой книге, которая выглядит и читается как фантазия в виртуальной реальности, так это то, что в ее подходе к жизни есть нечто фундаментальное — ее взгляд на мир враждебен Церкви и Библии.

Совсем не сложно вообразить альтернативную историю, где все, что напечатано на первых станках, проходит цензуру Церкви и рассматривается как продолжение Библии. «Любовное борение» могло бы существовать в этом альтернативном мире и остаться почти таким же. «Легкие» изменения состояли бы в исключении враждебных отрывков. Книга уже не была бы настолько странной. И это изменение, даже если бы оно касалось ничтожного количества слов, оказалось бы трагическим.

Именно так произошло, когда миссионеры пытались сохранить элементы туземных культур путем поглощения собственной. К примеру, мы немного знаем о том, как звучала музыка ацтеков или инков, но лишь части, адаптированные к европейским церковным песнопениям, считались наиболее важными. Однако изюминка есть во враждебных и потому не адаптированных частях. Они — порталы в странную философию. Какая потеря — не иметь возможности услышать неадаптированную музыку Нового Света! Конечно, некоторые мелодии и ритмы выжили, но целое утеряно.

С появлением веб 2.0 с Интернетом произошло нечто вроде миссионерского редукционизма. Странность была выхолощена процессом создания шума. Отдельные веб-страницы, какими они впервые появились в начале 1990-х, еще несли отпечаток личности. MySpace сохранил часть этой персонализации, хотя уже начался процесс упорядоченного форматирования. Facebook пошел дальше, организуя людей в субъекты множественного выбора, а «Википедия» вообще пытается уничтожить различия точек зрения.

Если бы этим занимались Церковь или государство, все заговорили бы об авторитаризме, но когда виноваты технологи, их считают изобретательными, привносящими свежие идеи и всячески поощряют. Идеи, которые были бы с негодованием отвергнуты в любом другом виде, будучи представленными в технологической форме, принимаются людьми. Крайне странно слышать, как мои старые друзья из мира цифровой культуры заявляют, что они являются истинными последователями Ренессанса, не понимая, что использование компьютеров для умаления персональной экспрессии есть примитивная, реакционная деятельность независимо от того, насколько совершенны инструменты.

Отказ от идеи качества приводит к потере качества

Фрагменты человеческих усилий, наводнившие Интернет, некоторыми рассматриваются как составные части коллективного разума или ноосферы. Вот лишь отдельные термины, использующиеся для описания того, что считают новым сверхразумом, в глобальных масштабах возникающим в Сети. Некоторые люди, как Ларри Пейдж, один из соучредителей Google, ожидают, что в какой-то момент Интернет оживет, тогда как другие, типа ученого-историка Джорджа Дайсона, думают, что это уже случилось. Популярные термины, такие как «блогосфера», стали общеупотребимыми.

Модной идеей в технических кругах является то, что количество в какой-то момент не только переходит в качество, но и делает это в соответствии с принципами, которые мы уже понимаем. Часть моих коллег думает, что если сложные секретные статистические алгоритмы будут комбинировать миллион, может быть, даже миллиард фрагментарных оскорблений, то в конце концов получится мудрость, превосходящая ту, что содержится в любом хорошо продуманном эссе. Я не согласен. На ум приходит правило ранних дней информатики: мусор на входе — мусор на выходе.

Среди энтузиастов культуры веб 2.0 так много тех, кто пренебрегает идеей качества, что трудно выбрать кого-либо одного. Пожалуй, остановлюсь на мыслях энтузиаста коллективного разума Клэя Ширки о том, что существует огромный избыток познания, который ждет, чтобы его использовали.

Безусловно, все согласятся, что есть гигантское количество людей, не получивших достаточного образования. Из тех, кто хорошо образован, многие работают неполный рабочий день или неделю. Если мы хотим поговорить о нереализованном человеческом потенциале, мы также можем упомянуть множество неимущих. Расточительство человеческого потенциала просто ошеломляет. Но это не те проблемы, о которых говорит Ширки.

Он считает, что количество может превзойти качество в самовыражении человека. Вот цитата из выступления Ширки в апреле 2008 года:

«И это — еще одна характеристика избытка познания, о котором мы говорим. Он настолько велик, что даже небольшое изменение может иметь гигантские последствия. Скажем, все останется на 99 процентов неизменным, люди в 99 процентах случаев смотрят телевизор столько же, сколько и раньше, но один процент времени высвобожден для производства и раздачи результатов. Население, имеющее выход в Интернет, смотрит телевидение примерно триллион часов в год… Один процент от этого — это эквивалент 98 проектов „Википедии“ в год…»

Итак, сколько секунд спасенного от телевидения времени потребуется, чтобы воспроизвести достижения, ну, скажем, Альберта Эйнштейна? Мне кажется, даже если бы мы могли объединить Сетью всех возможных инопланетян в галактике — может быть, квадриллионы существ — и дали бы каждому несколько секунд для того, чтобы внести свой вклад в «Вики», мы не воспроизвели бы достижений даже одного среднего физика, не говоря уже о великом физике.

Отсутствие интеллектуальной скромности

Есть по крайней мере два способа верить в идею качества. Вы можете думать, что в человеческом разуме происходит нечто, не поддающееся описанию, либо полагать, что мы просто пока не понимаем этого качества разума, хотя однажды сможем понять. И то и то позволяет отличить количество от качества. Чтобы спутать количество и качество, вам придется отказаться от обеих возможностей.

Простая возможность существования чего-то невыразимого в личности заставляет многих технологов отрицать понятие качества. Они хотят жить в совершенной реальности, напоминающей компьютерную программу, в которой все понятно и нет места фундаментальным тайнам. Они отшатываются даже при намеке на потенциальную зону таинственного или неразрешимого в чьем-то мировоззрении.

Такое желание абсолютного порядка обычно приводит к расколам в делах человеческих, поэтому есть исторические причины не доверять этому желанию. Материалисты экстремистского толка уже давно полны решимости выиграть гонку у религиозных фанатиков: кто сможет причинить больше вреда большему количеству людей?

В любом случае нет свидетельств того, что количество переходит в качество в области самовыражения или достижений человека. Вместо этого, как мне кажется, имеет значение чувство фокуса, состояние ума в эффективной концентрации и смелое индивидуальное воображение, отличающееся от воображения толпы.

Конечно, я не могу описать, что именно происходит в уме, и никто не может. Мы не понимаем, как работает мозг. Мы много знаем о том, как работают части мозга, но есть фундаментальный вопрос, который полностью еще даже не сформулирован, не говоря уже об ответе на него.

Например, как работает рассудок? Или осмысление? Обычные идеи, обсуждаемые сегодня, представляют собой вариации теории, что в мозгу происходит псевдодарвиновский отбор. Мозг пробует различные мыслительные схемы, и та, которая работает лучше, закрепляется. Звучит туманно. Но нет причин, по которым эволюция по Дарвину не могла пробудить в человеческом мозгу процессы, которые вышли за пределы дарвиновской прогрессии. В то время как физически мозг есть продукт эволюции в нашем понимании, культурно мозг может быть способом трансформации эволюционировавшего разума согласно принципам, которые нельзя объяснить в терминах эволюции.

Иначе говоря, помимо селекции может существовать другая форма созидания. Я, конечно, не знаю наверняка, но мне кажется, бесполезно настаивать на том, что того, что мы уже понимаем, должно быть достаточно для объяснения того, что мы пока не понимаем.

Что меня поразило, так это отсутствие интеллектуальной скромности в сообществе информатики. Мы рады воплотить в своих разработках простые и к тому же не вполне ясные гипотезы относительно самых трудных и глубоких вопросов, стоящих перед наукой, как будто мы уже обладаем точными ответами.

Если в конечном счете окажется, что в разуме отдельного человека есть нечто, отличное от того, что может быть достигнуто ноосферой, этот «особый элемент» потенциально будет способен обладать самыми разными свойствами. Возможно, прежде чем мы в достаточной степени оценим собственный мозг, нам придется ждать научных результатов, которые появятся через пятьдесят, пятьсот или пять тысяч лет.

Или окажется, что различие всегда будет основано на принципах, которыми мы не умеем манипулировать. Это может быть связано с типами коммуникаций, уникальных для физического мозга, основанных, вероятно, на таких формах причинно-следственных связей, которые зависят от заметных и невоспроизводимых физических условий. Или это будет связано с программным обеспечением, которое может быть создано только в ходе длительной эволюции и которое нельзя будет реконструировать или испортить ни одним доступным способом. Или это окажется пугающим некоторых шансом дуализма, реальностью сознания независимо от механизма.

Суть в том, что мы не знаем. Я люблю поговорить о том, как работает мозг. Позже я поделюсь мыслями по поводу того, как использовать вычислительные метафоры, чтобы хоть чуть-чуть представить, как может происходить процесс осмысления. Но я бы не хотел, чтобы кто-то пользовался моими спекуляциями как основой для разработки инструмента, предназначенного для реальных людей. Авиационный инженер никогда не посадит пассажиров в самолет, построенный на непроверенной, спекулятивной теории, но ученые от информатики совершают подобные преступления постоянно.

Основная проблема такова: технологи слишком остро реагируют на религиозных экстремистов. Если ученый-кибернетик говорит, что мы не понимаем, как работает мозг, дает ли это право идеологу заявлять, что мы тем самым поддерживаем какую-то религию? Вот реальная опасность, но слишком громкие заявления технологов — еще большая опасность, ведь мы запутываем сами себя.

Сохранилась ли возможность избавиться от идеологии толпы в сетевых приложениях

С точки зрения разработчика, разница между сайтом социальной сети и сайтами, какими они были до появления соцсетей, совсем невелика. Вы всегда можете создать на своем сайте список ссылок на странички своих друзей, и у вас всегда есть возможность послать электронную почту своему кругу друзей, написав то, что вам кажется нужным. Все, что предлагают социальные сервисы, — побуждение пользоваться Сетью определенным способом, в соответствии с определенной философией.

Если бы кто-то захотел переосмыслить приложения социальных сетей, было бы достаточно просто занять отстраненную позицию и описать, что происходит между людьми. Людям вполне можно оставить право сообщать все, что они хотят сказать о своих отношениях, так, как они считают нужным.

Если кто-то, описывая себя, хочет использовать слова вроде «не женат / не замужем» или «ищу», никто не собирается этому мешать. Поисковые машины без труда найдут примеры этих слов. Нет никакой необходимости в навязанной официальной категории.

Если вы читаете что-то, написанное кем-то, кто использовал выражение «не замужем / не женат» в предложении собственного сочинения, вы неизбежно почувствуете первый намек на неуловимый опыт автора, нечто, чего нельзя получить из базы данных с множественным выбором. Да, для этого всем придется чуть больше постараться, но преимущества полуавтоматического описания самого себя иллюзорны. Если вы начинаете с того, что подделываете себя, рано или поздно вам придется потратить вдвое больше усилий, чтобы развеять иллюзии, если у вас вообще что-то получится.

Это пример простого способа, которым могли бы воспользоваться разработчики, чтобы казаться скромнее в своих заявлениях о понимании ими природы человека. Просвещенные разработчики оставляют возможность существования либо метафизической особости человека, либо потенциала непредвиденного процесса творчества. Такие черты не объясняются идеями вроде эволюции, которую, как мы думаем, уже можно воспроизводить в программных системах. Такого рода скромность является отличительным признаком людей, ставящих во главу угла человека.

Но не обойдется и без издержек. Принятие метафизически скромного подхода усложнило бы использование баз данных для мгновенного выбора людей, которые, скажем, эмо, одиноки и богаты. Но я не считаю это такой уж большой потерей. Поток вводящей в заблуждение информации не является ценностью.

Все зависит от того, как вы определяете себя. Человек, получающий поток отчетов о романтическом статусе группы своих друзей, должен научиться думать в терминах этого потока, если считает, что это вообще стоит читать. То есть вот вам еще один пример того, как люди способны умалять самих себя, чтобы компьютер казался точнее. Обвиняю ли я все те сотни миллионов пользователей социальных сетей в умалении самих себя с тем, чтобы успешно пользоваться сервисами? Да, именно так.

Я знаю немало людей, в основном молодых, которые гордо заявляют, что у них тысячи друзей на Facebook. Очевидно, это заявление может быть истинно только в том случае, если умалено само понятие дружбы. Настоящая дружба должна давать каждому почувствовать неожиданные странности другого. Каждый знакомый — чужак, кладезь неизученных различий в жизненном опыте, который нельзя представить или получить каким-либо способом, кроме реального общения. Идея дружбы в отфильтрованном по базам данных мире социальных сетей, очевидно, гораздо уже.

Важно также отметить схожесть между господами и слугами вычислительного облака. Управляющий хедж-фондом может делать деньги, используя вычислительную мощность облака и рассчитывая фантастические финансовые схемы, которые ставят на производные финансовые инструменты таким образом, чтобы из ниоткуда произвести фиктивные виртуальные залоги для сумасшедших рисков. Это скрытая форма подделки и в точности тот же маневр, который совершает пытающийся обосноваться в социуме подросток для сбора фантастического количества «друзей» на сервисах вроде Facebook.

Ритуально-фальшивые отношения призывают мессию, который может никогда не прийти

Но давайте предположим, будто вы не согласны с тем, что понятие дружбы умаляется, зато уверены, что можете четко различать два значения этого слова — старое и новое. Даже тогда придется помнить, что пользователь соцсетей не является их участником.

Настоящий клиент — это рекламодатель будущего, но такое создание еще не появилось. Вся уловка, вся идея поддельной дружбы есть простая наживка, выложенная владельцами облаков для привлечения гипотетических рекламодателей — назовем их мессианскими рекламодателями, — которые могут когда-нибудь появиться.

Тысячи стартапов Кремниевой долины уповают на то, что фирмы вроде Facebook собирают чрезвычайно важную информацию, называемую «социальный граф». Рекламодатель, используя эту информацию, гипотетически может целевым образом воздействовать на группу равных прямо во время того, как те формируют свои мнения о брендах, привычках и т. д.

Рассуждения примерно таковы: давление со стороны окружения является огромной силой, влияющей на поведение подростков, и подростковый выбор становится выбором жизни. Таким образом, если кому-то удастся раскрыть тайну того, как делать идеальную рекламу, пользуясь социальным графом, то рекламодатель сможет создать нужное ему давление окружения в обществе реальных людей, которые захотят покупать то, что всю свою жизнь продает рекламодатель.

Ситуация с социальными сетями напоминает скопление абсурда. Идея рекламы до сих пор еще никому не принесла денег, потому что доллар рекламодателя, оказывается, эффективнее потратить на рекламу в поисковиках и на веб-страницах. Если выручки так и нет, то странное применение идеологии «база данных как реальность» будет красить поколения по группам и романтическому опыту вовсе без цели.

С другой стороны, если выручка появится, как мы знаем из предыдущего опыта, ее влияние будет поистине негативным. Когда в прошлом Facebook попробовал превратить социальный граф в центр получения прибыли, это повлекло за собой этические катастрофы.

Знаменитый пример — Beacon, появившийся в 2007 году, неожиданно введенный сервис, от которого было непросто отказаться. Когда пользователь Facebook покупал что-либо где угодно в Интернете, это транслировалось всем его «друзьям». Мотивом была попытка упаковать давление окружения как сервис, который можно было бы продать рекламодателям. Но этот сервис уничтожил, например, возможность купить неожиданный подарок на день рождения. Коммерческая жизнь пользователей Facebook больше им не принадлежала.

Идея немедленно привела к катастрофе и инспирировала бунт. Так, сеть MoveOn, которая обычно занята выборами, использовала огромное число своих членов, чтобы громко возмутиться. Facebook быстро сдался.

Эпизод с Beacon приободрил меня и укрепил веру в то, что люди все еще способны управлять развитием сети. Это было важное свидетельство против метачеловеческого технологического детерминизма. Сеть не создает себя сама. Мы создаем ее.

Но даже после фиаско Beacon стремление вкладывать деньги в сайты социальных сетей не исчезло. С точки зрения бизнеса у сайтов соцсетей есть единственная надежда на появление магической формулы, в которой какой-то способ нарушения частной жизни и достоинства будет приемлемым. Эпизод с Beacon доказал, что это не может произойти слишком быстро, так что теперь стоит вопрос, получится ли уговорить империю пользователей Facebook принять это постепенно.

Правда о толпах

Термин «мудрость толпы» является заголовком книги Джеймса Шуровьески, на нее часто ссылаются, упоминая историю о быке на ярмарке. В этой истории группа людей угадывала вес животного, и оказалось, что усредненный результат был более точным, чем оценка любого отдельного человека.

Принято считать, что это работает, потому что ошибки отдельных людей взаимно уничтожаются. Дополнительное и более важное соображение состоит в том, что предположения и логика, на основе которых построена большая часть догадок, верны хотя бы отчасти, поэтому все они находятся вокруг правильного ответа. (Это соображение подчеркивает, что в центре коллективного явления находится разум отдельного человека.) В любом случае такой эффект воспроизводим, и очень многие считают его основой как рыночной экономики, так и демократии.

Последнее время люди с фанатичным упорством пытались использовать вычислительные облака, чтобы воспользоваться эффектом коллективного разума. Существуют, например, хорошо финансируемые, хоть и преждевременно получившие доверие схемы применения систем, похожих на системы фондового рынка, для программ, в которых люди делают ставки на верность ответов на, казалось бы, неразрешимые вопросы. Например, когда случится следующая атака террористов или когда терапия с использованием стволовых клеток позволит людям выращивать новые зубы. Огромное количество энергии вложено также в агрегацию суждений пользователей Интернета для создания контента, как на сайте коллективно собираемых ссылок Digg.

Как эффективно использовать толпу

Причина, по которой коллективное может иметь ценность, заключается именно в том, что пики коллективных разума и глупости не совпадают с теми, которые демонстрируют отдельные люди.

Например, рынок работает из-за сочетания коллективного и индивидуального разума. Рынок не может существовать только на основе цен, определяемых конкуренцией, необходимы еще и предприниматели, выходящие на рынок с изначально конкурирующими продуктами. Другими словами, умные личности, герои рынков, задают вопросы, на которые отвечает коллективное поведение. Они приводят на рынок быка.

Есть определенные типы ответов, которые не должны даваться отдельными людьми. Например, когда государственный чиновник устанавливает цену, результат часто хуже, чем если бы эту цену назначал в достаточной степени информированный, свободный от манипуляций или выходящих из-под контроля внутренних противоречий коллектив. Но когда коллектив разрабатывает продукт, вы получаете нечто, сделанное «рабочей группой», — немного уничижительное выражение.

Коллективы могут быть не менее глупыми, чем отдельные люди, а в некоторых важных случаях даже глупее. Интересно, можно ли перечислить случаи, когда один умнее многих?

У этой темы — серьезный дискуссионный опыт, и полезные результаты есть в самых разных дисциплинах. Каждый реальный случай проявления коллективного разума, о котором мне известно, показывает, каким образом коллектив направлялся или вдохновлялся отдельными личностями с благими намерениями. Эти люди направляли действия коллектива, а в отдельных случаях даже спасали от некоторых распространенных видов провалов коллективного разума. Баланс влияния между отдельными личностями и коллективами лежит в основе устройства демократий, научных сообществ и многих других проектов, успешных длительное время.

Великолепные примеры того, как контроль качества, осуществляемый отдельными людьми, способен улучшить коллективный разум, можно найти в мире до Интернета. Например, журналисты независимой прессы, имеющие репутацию и авторитет, обеспечивают новости политики, такие как репортаж об Уотергейте Боба Вудворда и Карла Бернстайна. Без независимой прессы, состоящей из героических голосов, коллективное становится глупым и ненадежным, что было продемонстрировано на множестве исторических примеров, самые недавние из них — из времени правления администрации Джорджа Буша-младшего.

Научные сообщества тоже добиваются качества путем кооперативного процесса, включающего сдержки и балансы, а в конечном счете — основывающегося на фундаменте доброжелательности и слепой элитарности (слепой в том смысле, что в идеале каждый может войти в элиту, но только на основании достижений). Система постоянных должностей и многие другие аспекты академического мира придуманы для поддержки идеи важности отдельных исследователей, а не коллективного процесса.

Да, было много скандалов в правительстве, академических кругах и прессе. Не существует идеальных механизмов. Но мы все еще здесь, и мы получили блага от всех этих институтов. Конечно, мы знаем кучу плохих репортеров, обманувшихся ученых, некомпетентных бюрократов и т. д. Способен ли коллективный разум помочь удержать их под контролем? Ответ, полученный в экспериментах эпохи до Интернета — да, но лишь в том случае, если в цикл встроен механизм обработки сигналов.

Обработка сигналов — это такой цилиндр фокусника, которым инженеры пользуются, чтобы управлять потоками информации. Распространенный пример — способ, которым вы можете выставить уровни высоких и низких частот аудиосигнала. Приглушая высокие, вы уменьшаете количество энергии, идущей на производство высоких частот, которые представляют собой более плотные и короткие звуковые волны. Аналогично, повышая басы, вы усиливаете самые широкие звуковые волны.

Некоторые из наиболее успешных механизмов регулирования коллективов в мире до Интернета можно описать метафорами контроля высоких и низких частот. Например, что делать, если коллектив нервничает и движется слишком быстро, с нарочитой готовностью, вместо того чтобы успокоиться и выдать устойчивый ответ? Такое, к примеру, случается на наиболее активных страницах «Википедии» или во время некоторых спекулятивных паник на открытых рынках.

Одной из функций, выполняемых типичной демократией, является функция фильтра низких частот, что равносильно увеличению уровня басов и понижению уровня высоких частот. Представьте нервные метания, если бы «Вики» позволили писать законы. Даже подумать страшно. Сверхэнергичные люди боролись бы за изменение текста налогового кодекса неистово и бесконечно. Интернет превратился бы в болото.

Хоть и не окончательно, но этого хаоса можно избежать обычным способом, замедлив процессы выборов и судебных разбирательств. Как с басами. Успокаивающий эффект упорядоченной демократии дает больше, чем сглаживание аристотелевской борьбы за консенсус. Он также уменьшает потенциал неожиданного перехода коллектива в перевозбужденное состояние, когда слишком много быстрых изменений приводят к тому, что они перестают нивелировать друг друга.

Так, фондовые рынки могут принять автоматические остановки торгов, если цена или объемы торгов меняются слишком резко. (В гл. 6 я расскажу о том, как идеологи Кремниевой долины недавно сыграли роль в убеждении Уолл-стрит в том, что можно обойтись без некоторых из таких сдерживающих толпу механизмов, и о катастрофических последствиях этого.)

«Википедия» была вынуждена наложить грубый фильтр низких частот на самые неустойчивые статьи, такие как «Президент Джордж Буш-младший». Теперь есть лимит, как часто отдельный человек может удалять фрагменты чьего-то текста. Подозреваю, что такого рода изменения в конечном счете станут примерным отражением демократии, какой она была до появления Интернета.

Но существует и обратная проблема. Коллективный разум может двигаться в правильном направлении, но слишком медленно. Иногда коллективы, если им дать достаточно времени, будут добиваться выдающихся результатов, но порой времени просто нет. Проблема вроде глобального потепления могла бы быть автоматически решена, если бы рынок имел достаточно времени. (Например, возросли бы ставки страхования.) Увы, в этом случае, похоже, времени нет, потому что рыночные переговоры затрудняются влиянием эффекта существующих инвестиций. Следовательно, должен вмешаться какой-то другой процесс, такой как политика, порожденная отдельными личностями.

Еще один пример медленного коллективного разума: за тысячелетия до того как появилось четкое понимание, как основывать свою деятельность на опыте, до того как мы узнали, как создавать техническую литературу, одобренную равными, и строить на ней образование, и до того, как появился эффективный рынок для определения ценности изобретений, было разработано множество технологий — но очень медленно.

Решающим фактором современности является то, что структура и ограничения, а не только чистая открытость и уступки коллективному были частью процесса, ускорившего технологическое развитие. Эту идею мы рассмотрим в гл. 10.

Странный недостаток любопытства

Эффект «мудрости толпы» надо рассматривать как инструмент. А ценность инструмента определяется его полезностью в выполнении поставленной задачи. Восхваление инструмента никогда не может быть самоцелью. К сожалению, ноосферианцы и идеологи упрощенного понимания свободных рынков сообща разводят неоправданные сантименты в отношении избранных любимых инструментов.

Поскольку Интернет делает толпы более доступными, было бы полезно иметь широкий набор четких правил, объясняющих, когда коллективный разум вероятнее всего даст разумные результаты. Шуровьески описывает в своей книге четыре принципа, составленные с точки зрения внутренней динамики толпы. Для сохранения независимости и предотвращения характерного для толпы поведения он предлагает ограничить то, насколько одни члены толпы могут видеть решения, которые принимают другие. Среди прочих ограничений я бы ввел следующее: толпе никогда нельзя позволять формулировать вопрос самой, а ее ответы никогда не должны быть сложнее простого числа или выбора из нескольких возможностей.

Нассим Николас Талеб утверждал, что статистические приложения типа системы коллективного разума надо разделить на четыре категории. Он определяет опасный «четвертый квадрант» как содержащий проблемы, характеризующиеся сложными исходами и неизвестным распределением этих исходов. Он предлагает запретить задавать вопросы из этого квадранта коллективному разуму. Может быть, если соединить вместе все наши подходы, получится практический набор правил для успешного использования коллективного разума. Но может быть и так, что все мы ошибаемся. Проблема в том, что на тестирование таких идей не обращали адекватного внимания.

Наблюдается странное отсутствие любопытства в отношении пределов возможностей коллективного разума. То есть эти системы в большинстве своем основаны на вере. Множество проектов искали ответ на вопрос, как усовершенствовать отдельные рынки и другие системы коллективного разума. Но слишком мало проектов формулировали вопрос более широко, в более общих терминах или проверенных общих гипотезах о том, как работают системы коллективного разума.

Тролли

Анонима, слишком много резвящегося в Сети, называют троллем. Было бы приятно думать, что среди нас живет небольшое количество троллей. Но на самом деле в некрасивые перебранки в Сети втягивается множество людей. И каждый, кто испытал это, познакомился со своим внутренним троллем.

Я пытался научиться контролировать своего тролля. Я заметил, что неожиданно чувствую облегчение, когда в сетевом разговоре унижают или бьют кого-то другого — значит, на данный момент я в безопасности. Если смеются над чьим-нибудь видео на YouTube, то мое временно защищено. Но это также означает, что я — соучастник динамики толпы. Провоцировал ли я когда-нибудь осмеяние кого-либо, чтобы отвести толпу от себя? Да, провоцировал, хотя и не должен был. Я наблюдал, как это делают другие на постоянной основе в местах встреч анонимов в Сети.

Я также обнаружил, что меня можно втянуть в нелепые состязания в Сети такими способами, которые в других обстоятельствах совершенно не работают, причем я ни разу не получал удовлетворения. Из этого никогда не извлекается урок, также как нет катарсиса победы или поражения. Если вы побеждаете анонимно, никто не знает о вашей победе, а если проигрываете, вы просто берете другой псевдоним и начинаете снова, ничуть не изменив свою точку зрения.

Если тролли анонимны, а жертва известна, то динамика еще хуже, чем в случае столкновения анонимных фрагментарных псевдоличностей. В этом случае коллективный разум выступает против индивидуальности. Например, в 2007 году в Китае серия сообщений, известная как Scarlet Letter, спровоцировала онлайн-толпу начать охоту на обвиняемого в прелюбодеянии. В 2008 году внимание переключилось на симпатизирующих Тибету. Одна из самых развитых сетевых культур — корейская, так что эта страна пострадала от едва ли не самых экстремальных случаев троллинга. В 2008 году корейская кинозвезда Чой Джин Сил, которую иногда называли «национальной актрисой», совершила самоубийство, не вынеся преследований троллей. Но она была всего лишь наиболее известной жертвой подобных самоубийств.

В США анонимные интернет-пользователи сосредоточились на таких целях, как Лори Дрю — женщине, которая создала виртуального персонажа с целью разбить сердце однокласснице ее дочери, что привело к самоубийству девочки.

Но гораздо чаще цели выбираются случайно, по принципу, описанному в коротком рассказе «Лотерея» Ширли Джексон. В нем жители спокойного маленького городка каждый год тянут жребий, чтобы определить, кого в этом году забьют камнями до смерти. Похоже на то, что некоторой мере человеческой жестокости должна быть дана воля. А чтобы осуществлять контроль, сохранив при этом элемент случайности, ограничивают зло самым справедливым из доступных способов.

К числу некоторых известных случайных жертв троллей относится блогер Кэти Сьерра. Она неожиданно попала под огонь с самых разных сторон: например, ее фотографии в виде сексуально изувеченного трупа размещались в наиболее доступных местах, очевидно, с расчетом на то, что их увидят ее дети. Видимой причины, почему Сьерра оказалась в центре мишени, не было. Просто ее жребий вытянули.

Другой знаменитый пример — издевательства над родителями покончившего с собой мальчика Митчелла Хендерсона. Их подвергли пыткам отвратительными аудио- и видеосозданиями и другими инструментами, доступными виртуальным садистам. Еще один пример — выбор эпилептиков в качестве цели. Для этого создается мигающий дизайн веб-страниц — в надежде вызвать припадок.

В Сети существует огромный поток записей унизительных расправ над беззащитными жертвами. Культура садизма в Сети очень распространена и даже имеет свой словарь. Например, часто встречающийся термин «лулз» (lulz) означает выражение удовольствия от наблюдения за чужими страданиями через вычислительное облако.

Когда я критикую подобный вид культуры, меня часто либо обвиняют в том, что я старый пердун, либо называют защитником цензуры. И то и другое неправда. Не думаю, что я лучше или моральнее, чем люди, поддерживающие «лулзовые» сайты. Однако я говорю, что пользовательские интерфейсы, построенные в соответствие с идеологией вычислительного облака, делают людей — всех нас — менее человечными. Троллинг — это не цепочка отдельных случаев, это статус-кво сетевого мира.

Стандартная последовательность вызова тролля

В деградации анонимных фрагментарных коммуникаций можно выделить несколько стадий. Если не сформировалась стая, отдельные особи начинают драку. В Сети это происходит постоянно. Следующая стадия начинается, когда установлена субординация. Затем члены стаи становятся милыми и заботливыми друг к другу, даже тогда, когда побуждают друг друга к еще большей ненависти к чужакам.

Можно выдвинуть гипотезу, которая присоединится к ряду идей о том, как обстоятельства эволюции повлияли на нашу природу. Мы, особи с большим мозгом, по-видимому, не пошли путем захвата одной, специфической ниши. Вместо этого мы, должно быть, эволюционировали со способностью менять ниши. Мы развивались, чтобы научиться жить как в одиночку, так и в стае. Наши организмы оптимизированы не столько для того, чтобы быть одним или другим, но чтобы быть и тем и другим попеременно.

Новые схемы социальных связей, уникальные для сетевой культуры, сыграли свою роль в распространении современного сетевого терроризма. Если посмотреть на любой чат, от обсуждения гитар или пуделей до разговоров об аэробике, можно заметить устойчивую схему: чат террористов выглядит точно так же, как чат собачников. Появляется стая, и вы оказываетесь либо в ней, либо против нее. Присоединяясь к стае, вы присоединяетесь и к коллективной ритуальной ненависти.

Если мы будем продолжать сосредотачивать мощь цифровых технологий на проекте деперсонализации и коллективизации дел человеческих, то нам необходимо задуматься, как такой проект станет взаимодействовать с природой человека.

Наиболее изученные генетические аспекты поведения (под рубриками социобиологии или эволюционной психологии) основное внимание уделяли половым различиям в поведении и поведению в период спаривания. Но, думаю, клановая ориентация в ее связи с насилием окажется наиболее важной областью изучения.

В цифровом мире структура определяет этику

Не все обязательно ведут себя в Сети мерзко. От сайта к сайту поведение сильно отличается. Существуют разумные теории того, что заставляет людей проявлять себя с лучшей или худшей стороны в Сети: пол, возраст, экономическое положение, тенденции воспитания детей и, пожалуй, даже среднее время нахождения в Сети могут играть свою роль.

Но я считаю, что наиболее важными факторами являются детали устройства пользовательского интерфейса веб-сайта. Люди, способные спонтанно придумать псевдоним, чтобы оставить комментарий в блоге или YouTube, часто оказываются необыкновенно убогими. Покупатели и продавцы на eBay немного более цивилизованны, несмотря на происходящие время от времени разочарования типа случаев чудаковатости и мошенничества. Основываясь на этих данных, вы можете заключить, что идиотизм в Сети порожден не столько анонимностью, сколько временной анонимностью и безнаказанностью.

Эту гипотезу можно уточнить, имея больше данных. Участники Second Life (виртуального мира в Сети) обычно не так нетерпимы друг к другу, как люди, пишущие комментарии в Slashdot (популярный сайт технологических новостей) или устраивающих редакционные войны в «Википедии», несмотря на то что все ресурсы позволяют пользоваться псевдонимами. Разница, возможно, в том, что в Second Life персонаж с конкретным псевдонимом сам по себе имеет высокую ценность, и требуется немало усилий, чтобы создать его.

Таким образом, более точное описание структуры, способствующей троллям, — не требующая усилий, не приводящая ни к каким последствиям временная анонимность в сервисах, цели которых — такие, например, как продвижение определенной точки зрения — совершенно не связаны с идентификацией или чьей-либо личностью. Назовите это анонимностью попутчика.

У компьютеров есть неприятная тенденция давать нам двоичный выбор на всех уровнях, а не только на самом нижнем, где биты меняют свое значение. Очень просто быть полностью анонимным или полностью открытым, но трудно быть открытым ровно настолько, насколько нужно. Тем не менее в разной степени это происходит. Сайты вроде eBay и Second Life подсказывают, как структура может способствовать этому.

Анонимность возможна, но это необходимо тщательно продумывать. Примеры благодатной анонимности, возникшие до Интернета, — голосование и рецензии коллег. Иногда желательно освободить людей от страха возмездия или позора, чтобы получить честное мнение. Но для реального общения вы должны присутствовать полностью. Вот почему видеть обвинителя является фундаментальным правом обвиняемого.

Не может ли анонимность попутчика разрастись так же, как коммунизм и фашизм?

Сеть по большей части преподносила приятные и неожиданные новости о человеческом потенциале. Как я указывал ранее, развитие Всемирной паутины в начале 1990-х годов происходило без лидеров, идеологии, рекламы, коммерции или чего-то, отличного от позитивной отзывчивости, разделяемой миллионами людей. Кто мог предположить, что такое возможно? С тех пор на основе положительных событий в Сети постоянно строятся утопические экстраполяции. Каждый раз, когда блогер унижает корпорацию, размещая сообщение о невезучем представителе обслуживающего персонала, можно ожидать триумфальных криков об окончании эры корпоративных злоупотреблений.

Однако резонно было бы предположить, что Сеть может подчеркивать и негативные поведенческие схемы или даже создавать непредвиденные социальные патологии. Последние сто лет новые технологии СМИ часто играли заметную роль в массовых всплесках организованного насилия.

Например, нацистский режим был главным первопроходцем в радио- и кинопропаганде. Советский Союз тоже был одержим пропагандистскими технологиями. Сталин даже лелеял «Манхэттенский проект» разработки трехмерного кинотеатра с невероятными, массивными оптическими элементами, которые бы транслировали высококачественную пропаганду. Будь этот проект реализован, он стал бы злым двойником виртуальной реальности. Многие люди исламского мира получили доступ к спутниковому телевидению и Интернету только недавно. Эти медиа, несомненно, способствовали наблюдаемой сегодня волне крайнего радикализма. Намерение пропагандировать было всегда, но намерение — это еще не все.

Совсем не безумно волноваться по поводу того, что из миллионов людей, соединенных с помощью посредника, который иногда поднимает на поверхность их худшие стороны, неожиданно могут появиться массовые толпы, настроенные аналогично фашистам. Я беспокоюсь о следующем поколении молодежи во всем мире, выросшем на сетевых технологиях, которые усиливают формирование толп, как это происходит сегодня. Будут ли они более склонны поддаваться динамике стаи, когда станут совершеннолетними? Что помешает развиться повышенной раздражительности? К сожалению, история учит, что коллективистские идеалы могут быстро разрастись до крупномасштабных социальных катастроф. Коммуны и фасции прошлого начинались с небольшого числа идеалистов-революционеров.

Боюсь, мы готовим себе сюрприз. Рецепт, который привел к социальной катастрофе в прошлом, состоит из экономического унижения вместе с коллективистской идеологией. У нас уже есть идеология в ее новой, цифровой, форме, и очень возможно, что в предстоящие десятилетия мы столкнемся с опасно болезненными экономическими потрясениями.

Идеология насилия

Интернет наполнился идеологией насилия. Когда некоторые из наиболее харизматических фигур сетевого мира, в том числе Джимми Уэлс, один из основателей «Википедии», и Тим О’Рейли, придумавший термин «веб 2.0», во время травли Кэти Сьерры предложили добровольный кодекс поведения, начался массовый протест, и их предложения были забыты.

Идеология насилия не происходит из глубин царства троллей. Напротив, она берет начало на самых высоких уровнях. Существуют респектабельные академические конференции, посвященные методам осквернения святынь любого рода. Единственным критерием является то, что исследователи придумали способ применения цифровой технологии для нанесения вреда невинным людям, которые думали, что находятся в безопасности.

В 2008 году исследователи из Массачусетского университета в Амхерсте и Вашингтонского университета представили работы на двух таких конференциях (Defcon и Black Hat), раскрыв причудливую форму атаки, которую, несомненно, публично никто не озвучивал даже в фантастических работах. Они потратили два года группы ученых на поиски способа использовать мобильную связь, чтобы вмешаться в работу кардиостимулятора и удаленно отключить его с целью убить человека. (Хотя в своих выступлениях они и не рассказали о некоторых деталях, несомненно, они сказали достаточно, чтобы убедить своих последователей в возможности успеха.)

Я называю это выражением идеологии потому, что такое кровожадное поведение декорируется энергично возводимой структурой аргументов, придающих ему видимость величественного и нового. Если бы те же самые исследователи сделали что-то похожее без использования цифровых технологий, они бы как минимум потеряли работу. Предположим, что они провели пару лет и потратили значительные средства на поиски способа заставить стиральную машину отравлять одежду (гипотетически), чтобы убить ребенка, когда он оденется. Или если бы они создали лабораторию в элитном университете для поиска новых способов незаметно изменять лыжи, чтобы это приводило к смертельным несчастным случаям на склонах. Между прочим, вполне реальные проекты, но, так как они не цифровые, они не поддерживают иллюзии этики.

Вкратце идеология такова: все неэтичные, невежественные, невинные люди живут и думают, что они в безопасности, хотя на самом деле они ужасно уязвимы для тех, кто умнее их. Следовательно, мы, самые умные технари, должны изобрести способы атаковать невинных и опубликовать результаты, чтобы все знали, какой превосходящей силой мы обладаем. В конце концов умный злодей может появиться.

Существуют случаи, когда идеология насилия приводит к практическим, позитивным результатам. Так, любой сообразительный молодой технарь обладает потенциалом обнаружить новый способ заразить персональный компьютер вирусом. Когда это случается, существует несколько вариантов возможного развития событий. Наименее этичный для «хакера» — заразить-таки компьютеры. А наиболее этичным будет, не поднимая шума, уведомить компьютеризированные компании, чтобы пользователи могли загрузить антивирус. Промежуточный вариант — опубликовать результат, чтобы прославиться. Антивирус обычно может быть распространен до того, как программа, использующая брешь, причинит вред.

Но пример кардиостимулятора — это совсем иное. Правила вычислительного облака плохо применимы к реальности. Двум высочайшего класса лабораториям потребовалось два года целенаправленных усилий, чтобы обнаружить уязвимость, и это им удалось только потому, что третья лаборатория, в медицинском училище, смогла закупить кардиостимуляторы и информацию о них, которую иным способом получить очень сложно. Смогли бы студенты, или террористы, или любой другой воображаемый субъект аккумулировать ресурсы, достаточные для обнаружения этого нового способа убивать?

В данном случае исправление потребовало бы множество операций — более одной на каждого человека, который пользуется кардиостимулятором. Новое устройство будет способствовать разработке новых видов программ. Всегда найдется новая программа, использующая изъяны, потому что абсолютной защиты не существует. Должны ли теперь сердечники просто ради выживания планировать ежегодные операции, чтобы оставаться впереди либералов из академических кругов? Сколько это может стоить? Сколько умрет от послеоперационных осложнений? Учитывая бесконечные возможности причинить вред, никто не сможет действовать на основе предоставляемой исследователями информации, так что каждый пользователь кардиостимулятора всегда будет подвергаться большему риску, чем если бы этой информации вообще не было. Никакого улучшения не произошло, стало только хуже.

Говорят, что несогласные с идеологией насилия поддерживают ложную идею, известную как «безопасность неизвестности». Умные люди не должны принимать такую стратегию безопасности, потому что Интернет подразумевает конец неизвестности.

Так что другая группа уважаемых элитарных ученых потратила годы на выяснение способов взлома одного из самых надежных замков и опубликовала результаты в Сети. Это был замок, который самим взломщикам вскрыть не удавалось. Исследователи сравнивали свой успех со взломом «Энигмы» Тюрингом. Способ взлома оставался бы неизвестным, если бы не идеология, очаровавшая многих в академическом мире, особенно в области информатики.

Несомненно, неизвестность — единственная существующая фундаментальная форма безопасности, и Интернет сам по себе совсем не означает ее смерти. Одним из способов разубедить ученых, купившихся на идеологию насилия, могло бы быть указание на то, что неизвестность имеет другое название в биологии — биологическое разнообразие.

Причина, по которой некоторые люди не заболевают ВИЧ, состоит в том, что конкретно их тела незаметны для вируса. Причина, по которой компьютерные вирусы чаще заражают PC, чем Mac, не в том, что компьютеры Mac лучше сконструированы, а в том, что они относительно незаметны. Компьютеры на базе ОС Windows более распространены. Это означает, что одни и те же усилия на взлом приводят к лучшим результатам в случае Windows.

Не существует замка, который нельзя было бы взломать. Более того, большинство систем безопасности взломать не так уж и трудно. Но всегда требуются усилия, чтобы найти способ. В случае с кардиостимуляторами ушло два года работы двух лабораторий, и на это наверняка были потрачены существенные средства.

Еще одним предсказуемым элементом идеологии насилия является то, что любой недовольный ритуалами элиты «насильников» будет обвинен в распространении СНС — страха, неуверенности и сомнений. Но на самом деле это идеологи хотят, чтобы их заметили. Весь смысл публикации методов, эксплуатирующих слабые места вроде атаки на кардиостимуляторы, в славе. Если такая дурная слава не основана на распространении СНС, то что тогда основано?

MIDI анонимности

Точно так же, как идея музыкальной ноты была формализована и зафиксирована MIDI, идея троллеобразной, отличающейся от стаи к стае анонимности попутчика была извлечена из теоретической сферы и навсегда зафиксирована программным обеспечением. К счастью, процесс не завершен, еще остается время для продвижения альтернативных структур, отвечающих доброму началу человека.

Когда люди не чувствуют или не хотят принимать ответственность за свою роль, исход войны стандартов между цифровыми идеологиями может определяться случаем. Каждый раз, как мы видим пример того, как история пошла по случайному пути, мы также видим широту возможностей, которые формируют будущее.

Идеология коллективного разума не была основной на ранних стадиях развития Интернета. Эта идеология стала доминирующей после укоренения совершенно определенных поведенческих моделей, поскольку они очень хорошо уживаются. Корни сегодняшних всплесков мерзкого поведения в Сети лежат довольно глубоко в прошлом и связаны с контркультурой в Америке, в частности, с войной против наркотиков.

До возникновения Всемирной паутины существовали другие формы связи, из которых наиболее влиятельной была, пожалуй, Usenet. Она представляла собой каталог тем в Сети, где каждый мог оставить комментарий все в том же стиле анонимности попутчика. Часть Usenet под рубрикой Alt была отведена для неакадемических тем, в том числе странных, порнографических, нелегальных и оскорбительных. Многие из Alt-материалов были восхитительны — например, информация о редких музыкальных инструментах, а другая часть типа учебников по каннибализму была тошнотворна.

В то время, чтобы попасть в Сеть, надо было быть связанным либо с академическими, либо с корпоративными, либо с военными кругами, поэтому пользователями Usenet оказались в основном образованные и взрослые люди. Но это не помогло. Некоторые из них все равно превращались в Сети в злобных идиотов. Вот вам еще одно свидетельство того, что концентрирует зло структура, а не демография. Поскольку в сети присутствовало не так много людей, дурной сетевой этикет представлялся больше курьезом, чем проблемой.

Зачем Usenet поддерживал анонимность попутчика? Можно предположить, что в то время так было проще всего, но я не уверен. Пользователи принадлежали к какой-либо крупной и серьезной организации, так что средств избавить Usenet от анонимности было предостаточно с самого начала. Если бы это сделали, сегодняшние веб-сайты могли бы не унаследовать эстетику анонимности попутчика.

Так что анонимность в Сети порождена не ленью, не так ли?

Facebook работает по закону «ни одного отстающего ребенка»

В информационных системах всегда присутствовало упрощенчество личности. Когда вы подаете налоговую декларацию, вы вынуждены заявлять свой статус в упрощенной форме. Чтобы хоть как-то воспользоваться сервисом, ваша реальная жизнь должна быть представлена глупым и фальшивым набором записей в базе данных. Большинство людей понимают разницу между реальностью и записями в базе данных, когда подают декларацию о доходах.

Но когда вы осуществляете аналогичное самоуничижение, чтобы создать профиль на сайте социальной сети, порядок вещей обратный. Вы вносите данные: профессия, семейное положение, место жительства. Однако цифровое уничижение становится причинно-следственным элементом, опосредуя контакты между вами и новыми друзьями. Такого раньше не было. Раньше лишенным индивидуальности считалось государство, но в мире без индивидуальностей этого различия больше не будет.

Сначала может показаться, что опыт молодежи теперь резко разделен на старый мир школы и родителей и новый мир социальных сетей, но на самом деле и школа уже входит в новый мир. Образование претерпело параллельные преобразования по аналогичным причинам.

Информационные системы не могут работать без информации, но информация не полностью описывает реальность. Потребуйте от информации больше, чем она может дать, и вы получите ужасающие системы. Например, в соответствии с законом о начальном и среднем образовании от 2002 года (известном также как закон «ни одного отстающего ребенка») американские учителя вынуждены выбирать между обучением знаниям и натаскиванием для прохождения теста. Лучшие учителя часто лишаются права голоса из-за неподходящего применения информационных систем в образовании.

То, что компьютерный анализ результатов школьных тестов сделал с образованием, в точности соответствует тому, что Facebook сделал с дружбой. В обоих случаях жизнь превратилась в базу данных. И та и другая деградация основана на одной и той же философской ошибке, будто компьютеры сегодня могут воспроизводить человеческие мысли или человеческие взаимоотношения. Но компьютеры сегодня этого делать не могут.

Ожидается ли совершенствование компьютеров в будущем — это отдельный вопрос. В менее идеалистической атмосфере само собой разумелось бы, что должно разрабатываться только программное обеспечение для выполнения задач, которые могут быть успешно выполнены в данный момент. Однако программное обеспечение в Интернете разрабатывается иначе.

Если мы строим компьютерную модель автомобильного двигателя, мы знаем, как проверить, годится ли она на что-нибудь. Создавать плохие модели оказалось проще простого! Но возможно создавать и хорошие. Нам приходится моделировать материалы, динамику жидкости, электрические подсистемы. В каждом случае у нас есть жесткая физическая основа, на которую мы можем положиться, но у нас есть и огромный простор для логических и концептуальных ошибок о связи частей в целое. Отладка любой серьезной симуляции сложной системы неизбежно является долгим, непредсказуемым и скрупулезным процессом. Я работал над разными симуляциями процессов типа хирургических операций, это усмиряет. Хорошую хирургическую симуляцию можно совершенствовать годами.

Когда речь заходит о людях, мы, технологи, должны использовать совершенно иную методологию. Мы недостаточно хорошо знаем, как работает мозг человека, чтобы объяснять феномены типа образования или дружбы на научной основе. Поэтому когда мы разворачиваем компьютерную модель чего-то вроде обучения или дружбы так, что она может повлиять на жизни реальных людей, мы полагаемся на веру. Когда мы просим людей жить, используя наши модели, мы потенциально уничижаем саму жизнь. Как мы сможем когда-либо узнать о том, что мы, возможно, теряем?

Абстрактная личность скрывает реальную

То, что случилось с нотами после появления MIDI, происходит и с людьми.

Когда я разговариваю с молодежью, идеализирующей такие иконы новой цифровой идеологии, как Facebook, Twitter, «Википедия» и бесплатные/открытые/Creative Commons мэшапы, у меня разрывается сердце. Я каждый раз поражаюсь бесконечным стрессам, которые добровольно переживают молодые люди. Они вынуждены постоянно заботиться о своих сетевых персонажах, избегая недремлющего ока коллективного разума, который может напасть на отдельную личность в любой момент. У молодого человека «поколения Facebook», которого неожиданно унизили в Сети, нет выхода — в Сети есть только коллективный разум.

Я бы предпочел не рассуждать об опыте или мотивах других людей, но, несомненно, эта новая разновидность фетишизма к гаджетам больше основана на страхе, чем на любви.

В лучшем случае эти новые энтузиасты Facebook и Twitter напоминают мне анархистов и других сумасшедших идеалистов, существовавших в молодежной культуре времен моей молодости. Идеи могут быть глупыми, но их приверженцы по крайней мере получали удовольствие, когда восставали против опеки таких органов, как звукозаписывающие компании, пытавшиеся бороться с музыкальным пиратством.

Но наиболее эффективные пользователи Facebook, — те, которые, вероятно, стали бы победителями, если бы Facebook оказался моделью будущего, в котором они будут жить как взрослые, — сумели создать успешные вымышленные персонажи в Сети.

Они усердно ухаживают за своими вторыми «я». Они обязаны уметь импровизировать и следить за откровенностью фоток с вечеринок настолько же тщательно, насколько это делают политики. Поощряется неискренность, тогда как честность оставляет пожизненное пятно. Конечно, какая-то разновидность этого принципа существовала в молодежной среде и до пришествия Всемирной паутины, но не в такой жесткой и клинически четкой форме.

Буйная энергия первоначального расцвета Всемирной паутины опять проявилась в новом поколении, но теперь есть и новая хрупкость в приемах, с помощью которых люди контактируют в Сети. Это побочный эффект иллюзии, будто цифровая форма может зафиксировать многое из реальных взаимоотношений людей.

Двоичная природа, лежащая в основе разработки программного обеспечения, стремится проявиться на более высоких уровнях. Например, намного проще дать команду программе работать или не работать, чем приказать ей «вроде как функционировать». Аналогично, гораздо проще установить жесткое представление человеческих взаимоотношений в цифровых сетях: на типичном сайте социальной сети вы либо женаты/замужем, либо одиноки (или же пребываете в одном из других предопределенных состояний), и это сокращенное представление жизни транслируется между друзьями постоянно. То, чем люди обмениваются, в конечном счете становится их правдой. Отношения наследуют проблемы разработки программного обеспечения.

Просто напоминание о том, что я не против Сети

Кажется нелепым, что приходится это говорить, но на тот случай, если у кого-то сложилось ложное впечатление, позвольте сказать еще раз, что я не противник Интернета. Я люблю Интернет.

Один пример из множества, которые я мог бы привести: я провожу довольно много времени на форуме музыкантов, играющих на уде. (Уд — это ближневосточный струнный инструмент.) Я сомневался, стоит ли говорить об этом, так как любое скромное место в Сети может быть испорчено, если привлечет слишком много внимания.

Форум игроков на уде воскрешает магию ранних лет Интернета. Там я ощущаю себя немного в раю. Можно почувствовать любовь каждого из участников к инструменту, и мы помогаем друг другу полюбить его еще сильнее. Удивительно наблюдать, как игроки на уде со всего мира подбадривают мастера — изготовителя инструмента, который выкладывает на форуме фотографии изделия в процессе изготовления. Удивительно приятно слушать записи молодого музыканта, сделанные на открытом воздухе, когда музыка так прекрасно звучит.

Прихотливые дизайны веб 2.0 начала XXI века предпочитают классифицировать людей по изолированным группам, так что вы встречаете только себе подобных. Facebook — замечательный пул для свиданий, Linkedln собирает карьеристов и т. д.

Форум игроков на уде делает ровно обратное. Там вы встретите турок и армян, пожилых и детей, израильтян и палестинцев, богатых профессионалов и борющихся за выживание артистов, официальных академиков и уличных музыкантов, и все они общаются друг с другом на тему общей страсти. Мы узнаем друг друга, мы не фрагменты друг для друга. Естественно, внутренние тролли иногда проявляются, но реже, чем в большинстве других сетевых мест. Наш форум не решает глобальных проблем, но позволяет нам жить более полной жизнью.

Когда я рассказал Кевину Келли об этом волшебном сообществе одержимых людей, он немедленно спросил, есть ли специальный человек, который следит за форумом. Сетевые сообщества всегда оказываются любимыми проектами индивидуальностей, а не автоматизированными агрегаторами вычислительного облака. В этом случае, естественно, такая магическая личность есть, ею является молодой американец египетского происхождения, играющий на уде музыкант, живущий в Лос-Анджелесе.

Инженер во мне иногда задумывается о довольно примитивном программном обеспечении, на котором работает форум. Глубокая тайна, как лучше организовать и представлять многочисленные темы разговоров на экране монитора, остается настолько же неразрешимой, насколько была таковой всегда. Но как только я ощущаю готовность заняться разработкой проекта по совершенствованию программного обеспечения, я останавливаюсь и спрашиваю себя: а действительно ли многое надо исправлять?

Форум создают люди, а не программы. Без программ этого опыта общения не было бы вовсе, поэтому я превозношу ПО, насколько бы несовершенным оно ни было. Но форум не станет намного лучше, если усовершенствовать программу. Это может даже повредить, сместив акцент с людей.

Существуют гигантские возможности совершенствования цифровых технологий в целом. Например, я бы с удовольствием проводил дистанционные встречи с удаленными музыкантами. Но, как только основа для определенного технологического скачка готова, всегда важно отступить на шаг назад и хоть ненадолго сосредоточиться на людях.