Что нужно требовать от работающих с вашими данными?

Обработка и анализ данных – некий механизм, функционирующий в автоматическом режиме. В то же время в отсутствие указаний от человека этот механизм не работает. Поэтому даже самая безупречная прозрачность внутренних процессов компании не гарантирует, что ваши данные используются в ваших интересах. Люди, отвечающие за конструкцию механизма, могут утверждать, что им виднее, какие функции, возможности и прибамбасы нужны пользователям (причем зачастую они и сами в этом уверены). Но как вам убедиться в том, что этот конкретный инфопереработчик не относится к вам с позиции пинбольного автомата, для которого пользователи – всего лишь игровые шарики, которые скачут, прыгают, вертятся и катаются по прихоти тех, кто держит руки на пульте управления? А если эти люди еще и получают вознаграждение за каждое попадание «шарика» в рекламу или какой-то другой платный контент, будьте уверены, что механизм будет спроектирован и настроен исключительно в этих целях.

Именно поэтому одной прозрачности процессов переработки информации недостаточно. Нам нужно иметь свободу выбора – возможность по собственному усмотрению решать, как надлежит использовать наши данные. Нам необходимо требовать собственного «кресла» за пультом управления инфопереработчика.

Это сфера нашего взаимодействия с инфопереработчиками. Бо́льшая свобода выбора может оптимизировать выполнение даже таких рутинных задач, как выявление спама во входящих сообщениях электронной почты, которое мы радостно перепоручили компьютерам. Никто не хочет возвращения времен, когда раздел «Входящие» был завален предложениями купить по дешевке виагру или получить невостребованное наследство. Тем не менее ситуации, когда ожидаемое сообщение оказывается в спаме или, что еще неприятнее, важное отправленное письмо попадает в спам адресата, все еще случаются. Спам-фильтры дают возможность ставить на такие сообщения метку «неспам», после чего те восстанавливаются в папке входящих, а правила сортировки электронной почты соответствующим образом корректируются на будущее. Наличие такой обратной связи повышает эксплуатационные качества вашей системы.

Спам-фильтры стараются найти настройки, позволяющие сбалансировать сортировку писем, часть которых по-прежнему ошибочно относят к спаму, а часть ошибочно относят к неспаму. В подавляющем большинстве случаев письма «удостаиваются» отправки в спам по некоторым признакам данных отправителя и метаданных всей почты, проходящей через серверы службы, благодаря чему машинное обучение становится возможным на сетевом уровне. Однако, чтобы усовершенствовать работу системы, провайдер мог бы сделать доступным анализ, на основе которого письмо отправилось в спам. Более того, вам могли бы предоставить возможность изучить правила и скорректировать их с учетом ваших личных предпочтений и особенностей коммуникации.

С одной стороны, если вам не хочется терять время на выявление спама вручную и вы не слишком переживаете по поводу возможности пропустить важное сообщение, можно было бы установить жесткие параметры фильтрации входящих писем. С другой стороны, если вы хотите быть уверены, что не пропустите важное сообщение, а необходимость потратить какое-то время на удаление спама вас не смущает, вы можете смягчить эти параметры. Если у вас куча родственников и друзей в Нигерии, вас уже давно перестало смущать, что уровень спама в электронных письмах из этой страны составляет 90 процентов. Почему бы не предоставить людям больше возможностей для обратной связи с машинами, не дать расширить права пользователей при сортировке собственной почты? Чтобы сделать это, почтовым сервисам потребуется обнародовать критерии, применяемые ими для квалификации спама, и поделиться с пользователями контролем над обработкой сообщений, предоставив возможность корректировать некоторые параметры.

Расширение права пользователей на свободу выбора требует изменения в сложившейся расстановке сил путем наделения граждан большими правами в отношении информации и процессов ее переработки. Есть четыре основных способа расширить возможности контроля: право вносить исправления в свои данные, право на размытие данных о себе, право экспериментировать с обработкой своих данных и право переносить свои данные. Право вносить исправления в свои данные расширяет свободу выбора через свободу самовыражения, в то время как право на размытие данных о себе расширяет свободу выбора через свободу волеизъявления. Право экспериментировать с обработкой своих данных расширяет свободу выбора через расширение свободы исследований, в то время как право переносить свои данные расширяет свободу выбора через расширение свободы передвижения. Создание инструментов, в основу которых будут заложены эти четыре права, позволит совершенствовать информационные продукты и услуги и развивать экономику эпохи постприватности, в которой данные будут поставлены на службу людям.

Право вносить исправления в информацию

Примерно шесть тысяч лет назад с изобретением клинописи шумерами зародилось и делопроизводство. Созданием, высушиванием и сохранением глиняных табличек, которые служили этой цивилизации документами постоянного хранения, в основном занималась правящая элита царей-жрецов. Таблички хранили сведения о том, кто чем владеет, кто сколько задолжал по налогам, оброку, займам или за товары, и о законах, регулирующих собственность и торговлю. Поскольку на кону стояло очень многое, имели место подделки и последующие конфликты по поводу того, что именно было «высечено на камне». Шумеры решили, что таблички должны храниться под замком, что обычно поручалось местному храму. Однако это означало, что информация контролируется по большей части жрецами – именно они решали, кому предоставить доступ к записям, а кому нет. Всем остальным оставалось надеяться на то, что жрецы корректно отразят информацию и не поддадутся искушению исказить вверенные их заботам данные. К несчастью, цари-жрецы и прочие представители элит не всегда были примером порядочности и благонадежности. Хранение информации было одним из способов концентрации власти.

Сооснователь стартапа в области распознавания изображений Jetpac Пит Уорден полагает, что мы сейчас вступили в очередной период чрезмерно интенсивных усилий по защите информации. Проблема потенциального ущерба, который способна нанести неверная информация, налицо, и мы полагаем, что ее можно решить, обеспечив корректность всех имеющихся данных. Но в силу огромности количества информации, окружающей нас сегодня, защитить от искажения каждый ее бит и байт уже не представляется возможным. Шумеры, которых насчитывалось всего около миллиона человек, попытались сделать это, предоставив право контроля над архивами небольшому числу людей, и убедились, что информация все равно подвергается искажениям. Следить за достоверностью каждого элемента имеющегося объема информации также вне человеческих сил. Восточные немцы, которых насчитывалось около 16 миллионов человек, пробовали заниматься этим, завербовав в агенты Штази один процент трудоспособного населения, но быстро поняли, что ручная верификация данных не масштабируется. Тем не менее сегодня мы можем воспользоваться преимуществами машинного обучения для подтверждения факта достоверности информации и предоставления ее гражданам в ранжированном по релевантности виде.

Следует отказаться от задачи сохранения только «правильной» информации и дать пользователям возможность самостоятельно определять содержание своего личного дела. Право вносить исправления – это возможность целенаправленно приобщать информацию, создавать и распространять новую информацию, связанную с уже имеющейся, и таким образом создавать связи, которые можно анализировать, как любые другие данные. Те же алгоритмические механизмы ранжирования и рекомендаций, которые создавались для показа подходящей информации, могут использоваться для извлечения информации, релевантной данной ситуации человека, в том числе и всех связанных данных. С учетом наличия гигантских объемов данных, возможности анализировать огромное количество потенциально противоречивой информации и экономических параметров современных средств коммуникации нам больше не нужно заталкивать действительность в бинарное противопоставление истинного и ложного. Право вносить исправления исходит из вероятностного мировосприятия.

Право на исправления предоставляет пользователю значительно большую степень свободы выбора, чем право на забвение, существующее в ЕС. Примером этого может служить случай частного инвестора Грега Линде, который почти сразу же после принятия директивы ЕС попросил убрать из результатов поиска Google ссылку на статью о семинаре по тантрическому сексу в газете «Уолл-стрит джорнэл» за 1998 год, где упоминалось его имя. Директива была тогда «горячей новостью», и газетчики решили разыскать человека, который обратился со столь волнительной просьбой, и сделать о нем репортаж. Ирония заключалась в том, что просмотры этого репортажа практически неизбежно подняли историю Линде на самый верх результатов по поисковым запросам «тантра» или «право на забвение в ЕС». (Google подавила ссылки, которые просил убрать Линде, только для компьютеров, расположенных в ЕС.) Сам Линде позже признал, что право на забвение не слишком подходит в качестве глобального стандарта и что для него было бы важнее добавить какие-то комментарии к изначальным упоминаниям о себе. «Если бы они находились в несколько более широком контексте, не было бы проблем», – сказал он в интервью «Уолл-стрит джорнэл». Подавляющее большинство людей никогда не смогут заставить «Уолл-стрит джорнэл» или какую-то другую организацию «подправить» информацию о себе. Но мы должны иметь право на исправление информации, вне зависимости от того, насколько «горячей» она представляется другим.

Директива о праве на забвение не предлагает четких критериев, позволяющих судить о месте информации между полюсами интересов общества и неприкосновенности частной жизни. В результате организации, отвечающие на запросы, могут «затирать» информацию, которую люди могут считать полезной, а иногда и ключевой для принятия решения, и это противоречит другому праву общественности – «праву на информацию». Более того, до сего дня единственным способом определения обоснованности запросов является оценка каждого конкретного случая сотрудниками компании. Кажется, будто мы вернулись к практикам шумеров, поручавших жрецам решать вопрос, какие таблички следует хранить, а какие уничтожить.

Подавляющее большинство запросов, сделанных в связи с правом на забвение в ЕС, касается информации, опубликованной другими. Это происходит потому, что на большинстве платформ люди уже сейчас могут удалять созданную и распространенную ими информацию. Но, рассматривая вопрос о праве доступа к данным, мы убедились, что многие, если не подавляющее большинство данных создаются в связи с другими людьми, и было бы правильнее считать их «совместной собственностью». Удаляя часть цепочки обсуждения политики или товаров, человек лишает опоры ответы на свои замечания, меняя таким образом весь контекст.

Люди максимально мотивированы на правку информации, когда изменения сулят им выгоды. Казалось бы, домовладелец может быть в большей степени заинтересован исправить ошибку в кадастровой оценке своей недвижимости, чем клерк госучреждения. Но и тут все зависит от конкретной ситуации. Если хозяин считает, что оценщик завысил стоимость дома, переоценив некоторые его свойства, то исправления могут понадобиться, чтобы снизить сумму налога. Если он собирается выставить дом на продажу, то более высокая оценка придется кстати, поскольку поможет добиться лучшей цены. Оценщик не слишком заинтересован в пересмотре результатов, поскольку это требует времени, а возможно, и признания ошибок. Вернуться к этому вопросу ему будет интересно только в случае, если итоговая оценка оказалась заниженной, а его гонорар рассчитывался как процент от нее.

Право на исправление приобретает особую важность, когда информация может вам навредить. Например, по данным геолокации, в определенный момент времени вы находились в Нью-Джерси, хотя на самом деле были на Манхэттене, просто ваш телефон был привязан к базовой станции на другом берегу Гудзона. Потом по какой-то причине вам требуется подтвердить, где именно вы тогда находились. Вы можете поискать другие данные, например видеозапись, свидетельствующую, что вы были в Нью-Йорке, и приобщить ее к данным геолокации, чтобы другие смогли убедиться в противоречивости имеющейся информации. В будущем неконтролируемые вами данные, такие как видеозаписи из общественных мест, смогут использоваться для определения вашего соответствия требованиям потенциального работодателя или банка-кредитора. Помешать формированию таких данных невозможно, но можно настаивать на возможности дополнить их другими.

Кроме того, у вас должна быть возможность разместить корректирующую информацию (в виде опровержения, пояснения или оговорки) таким образом, чтобы она была в первую очередь видна любому, кто будет просматривать данные, и располагалась выше правок других людей. Далее, поскольку информация о вас может одновременно являться и информацией о других, вам должен быть предоставлен способ подчеркнуть, насколько важна для вас поправка, чтобы инфопереработчики могли определить, как ранжировать и показывать ее другим. Если размещение и приоритезация поправок не будут связаны с какими-то издержками, социальные сети очень скоро будут завалены ими. Чтобы этого не произошло, можно ввести суррогатную плату, предоставив каждому пользователю определенное количество баллов на размещение поправок.

Поправкам могут также присваиваться различные веса в зависимости от степени признания их корректности, включая наличие подтвержденного источника информации и обратной связи других пользователей. Из главы 2 мы знаем, что Reddit разрешает пользователям судить о достоинствах постов голосами «за» или «против» контента и идентифицирует тех, кто пытается обмануть систему, засекая голоса, исходящие от одного пользователя или группы по признаку одинаковых IP-адресов. Голоса «за» или «против» являются дополнением к информации. Но интернет-тролль может задеть или испортить репутацию человека или сетевого сообщества с единственной целью разозлить пользователей. Одним из способов поддержания здоровой экосистемы является требование идентификации каждого дополнения настоящим именем или постоянным псевдонимом. Но и тут не все так просто и однозначно. Ведь постоянный идентификатор гарантирует достоверность правки не больше, чем обещание свидетеля в суде «говорить правду и только правду» гарантирует правдивость его показаний. К тому же такая привязка к личности некорректна в отношении разоблачителей нарушений закона и гражданских прав, для которых идентификация личности может представлять угрозу жизни. Недавние примеры – WikiLeaks, публикующий правительственные документы, Панамский архив с информацией об уклонении от налогов и LaborLink, описывающий условия труда на производстве.

Для оценки корректности исправлений можно использовать их метаданные, например время и место их создания. Видео– и аудиозаписи содержат фоновые шумы, по которым определяется частота электрического тока. В США, ЕС и Китае стандартная частота переменного тока различна. Но во всех случаях она незначительно варьируется в зависимости от нагрузки на электросеть, и этого достаточно, чтобы привязать эти колебания к конкретному месту и времени с точностью до минуты. Так, у каждой из четырех основных электросетей США и Канады есть свой особый «частотный характер», реагирующий на базовую нагрузку. Сопоставив колебания фонового частотного шума записи с характерными колебаниями частот всех сетей, можно с высокой долей вероятности установить день, время и местность записи.

Этот пример, показывающий, что в любых записях содержится неудаляемая информация, похож на концепцию блокчейна – учетной системы, созданной для криптовалюты биткойн. В общих чертах блокчейн представляет собой бессрочную историю всех взаимодействий и операций, в том числе данные, содержащиеся в информации. Таким образом, вместе с любой информацией передается ее полная история, и ее нельзя разделить, подделать или уничтожить. Блокчейн регистрирует текущего владельца каждого биткойна и не дает возможности одновременно использовать один и тот же биткойн в разных транзакциях, даже несмотря на то что многие пользователи биткойна предпочитают присваивать своим «кошелькам» псевдонимы. Система организована таким образом, что каждая транзакция открыто регистрируется в рамках децентрализованного распределенного процесса, а знакомиться с записями и создавать новые может любой участник. В основе идеи лежит простой факт: как только единица информации получила распространение, ее невозможно уничтожить в экзистенциальном смысле, поскольку ее копии присутствуют во всех устройствах сети. Любой перевод и обмен прозрачны, и их можно отследить во времени. Более того, в блокчейн можно вписывать комментарии, создавая контекст транзакции.

Частный блокчейн может быть создан группой людей или организацией, так называемым консорциумом, все члены которой получают полный доступ к истории и возможность создания записей. Это интересный вариант для медицинской информации: доступ пациента к записям в карте с возможностью изменений и дополнений может быть ограничен лечащими врачами, консультантами и отдельными членами семьи. Полностью публичный блокчейн более прозрачен и надежен, поскольку аутентичность информационных транзакций подтверждается всей пользовательской сетью. Любые попытки что-то сфальсифицировать сразу обратят на себя внимание. В то же время благодаря меньшему количеству участников, подтверждающих и сохраняющих транзакции, в консорциуме выше скорость прохождения операций. Это же обстоятельство упрощает и возможность сговора, поэтому в консорциуме следует проявлять повышенную бдительность. Присутствие в системе истории всех транзакций позволяет любому блокчейну, публичному или частному, достичь беспрецедентного уровня ответственности и подотчетности, что может быть особенно важно в случае попыток злонамеренного использования информации. Блокчейн можно считать высокотехнологическим эквивалентом суперклея: информация о любых изменениях и дополнениях надежно увязывается с их авторами.

Из предыдущей главы мы знаем, что при расчете информационных инвестиций так называемые явные данные, предоставление которых требует больших усилий пользователя, оцениваются выше. Исправления и дополнения являются явными данными, но могут быть приобщены к данным любого типа, как явным, так и неявным. Исправляя неявные данные, например указывая на некоторую неточность метаданных фотографии, вы повышаете их вес в расчете доходности информационных активов и обозначаете свой интерес к другим подобным корректировкам.

Наконец, воплощение в жизнь права на изменения потребует от инфопереработчиков предоставить пользователям необходимые ресурсы. Идея сфокусировать внимание пользователя на потенциальных областях заработка инфопереработчика, таких как, например, реклама, может выглядеть слишком соблазнительно. Но необходимыми первыми шагами в обеспечении интересов пользователей должно стать предоставление им виртуальных площадок для внесения изменений и создание архитектуры, обеспечивающей их публичность.

Право на размытие данных о себе

Право на размытие данных о себе дает возможность определить уровень детализации предоставляемой информации. Чем туманнее информация, которой вы делитесь с инфопереработчиком, тем ниже персонализация услуг, которые можно от него получить. Несмотря на это, у вас должно быть право диктовать собственные условия и решать, какой уровень персонализации нужен в каждой конкретной ситуации. Сегодня можно узнавать невероятно точные подробности о людях, например выяснять их местоположение с точностью до метра с помощью GPS или маячков. Но это не означает необходимость делиться столь точными данными с инфопереработчиком, напротив, мы должны иметь возможность самостоятельно определять, насколько четкую картину мы хотим предоставить. Бинарный выбор между максимально четкой картинкой и неполучением информационной услуги имел смысл только при низкой степени детализации имеющихся данных, но в наши дни это уже не так.

Иногда бывает необходима или желательна высокоточная геолокация, иногда никакой надобности в ней нет. Вы, не задумываясь, предоставите точную информацию о своем местоположении, когда требуется срочная доставка. Если вы не дадите свой точный адрес, доставка пиццы на дом не состоится. В то же время во многих случаях можно получить желаемое без особой детализации информации и с меньшими затратами. Таксиста можно попросить высадить вас на ближайшем к дому перекрестке, а не сообщать ему точный адрес – цена вопроса составит пару минут ходьбы. В большинстве городов вы получите от сервиса Google Maps самый удобный маршрут к месту назначения, даже если укажете немного другой номер дома.

Можно изменять или размывать данные с помощью таких маленьких хитростей, а можно воспользоваться технологиями, чтобы не делать этого вручную. Перед отправкой на обработку точные данные будут лишены некоторого количества деталей или цифровых характеристик. Эрик Хорвиц из Microsoft Research предложил систему, позволяющую варьировать степень разрешения геолокационных данных, отправленных телефоном, в диапазоне от «одного метра» до «планета Земля». Эрик считает, что установки разрешения могут изменяться в зависимости от конкретной ситуации. Максимальная точность может пригодиться при поисках машины на парковке или нужного товара в магазине. А если вы гуляете по торговому центру в рабочее время, то наверняка предпочтете минимальную. Алгоритм может учитывать ваши пожелания и запоминает их исходя из параметров времени и геолокации. Назначая встречу потенциальному клиенту в торговом центре, вы можете выбрать геолокацию более высокого уровня точности. Кроме того, точность не обязательно измеряется в единицах расстояния. Если вы находитесь в малонаселенной местности, то можете размыть настройку на радиус местонахождения ближайшей тысячи мобильных телефонов, так что идентифицировать вас будет непросто. Ситуации могут быть самые разные. Информационная грамотность подразумевает понимание, каким уровнем детализации отправляемой информации можно обойтись для получения искомого результата.

Геолокация не единственная область, где точность информации можно уменьшать или увеличивать. Связи между людьми, их интересы и чувства, выраженные в кликах и свайпах, релевантность предмета или явления в конкретных условиях, степень приватности или публичности определенного места – все это намного сложнее, чем переключатель «вкл. – выкл.». Жизнь не бинарна, равно как и информация.

Размыть можно многие личные характеристики, в том числе возраст, вес и рост, национальность, религию, место работы, отрасль и должность. Например, LinkedIn дает возможность скрывать детальную информацию о себе при просмотре профайлов других пользователей. Но система устроена таким образом, что, минимизировав открытую информацию о себе, вы получаете информацию о людях, заходивших на вашу страничку с точно таким же уровнем детализации – уровень точности предоставленной информации определяет уровень точности получаемой. Если вы – женщина или представитель этнического меньшинства в поиске работы, то, возможно, захотите, чтобы при первом скрининге вашего резюме оно показывало только инициалы, а не полное имя. Экономисты выяснили, что вероятность приглашения на интервью кандидатов с «этническими» или иностранными именами ниже, чем у обладателей «белых» или привычных.

Размытие повышает степень контроля над своими данными в коммерческой среде. Когда вы что-то покупаете, продавцу неизбежно становится известно точное SKU (обозначение ассортиментной позиции), дающее полное представление о товаре и его особенностях. А эти данные могут сказать очень многое о вас лично и о ваших потребительских предпочтениях. Вместо этого при покупке товаров деликатного свойства можно было бы требовать, чтобы их показывали на уровне категории – например, «массажёры» или «товары для расслабления и отдыха» или даже на уровне отдела – например, «Красота и уход» или «Здоровье и быт». Размытие точного SKU до уровня категории защитило бы вас от потенциальной неловкости в случае взлома или случайной утечки, если вы забыли выйти из аккаунта. Конечно, размытие информации о покупке повлияет на рекомендации, поскольку пропадет привязка данного SKU к вашей истории покупок, но, возможно, это как раз то, чего вы в данном случае хотели бы.

Чтобы рассматривать право на размытие с прагматической позиции, вам нужно признать, что вы создаете информацию, подчас исключительно конкретную информацию. Когда системы GPS для гражданского применения были не настолько точны, пользы от навигаторов было не слишком много. Чтобы позвонить с мобильного телефона, нужна связь с базовой станцией, координаты которой, разумеется, известны оператору.

В некоторых случаях четкость данных можно изменять в момент создания. Однако размытие данных «у источника» необратимо. Из-за этого в будущем нельзя будет воспользоваться некоторыми продуктами и услугами, в том числе и теми, о необходимости которых в настоящий момент нет представления. Частично скрыв свои личные данные, можно лишиться возможности совершать оплаты онлайн, поскольку не всегда понятно, какие идентификационные признаки могут понадобиться для авторизации.

Вы можете размыть данные, а позже обнаружить, что для принятия необходимых решений нужна точная информация. Предположим, вы периодически остаетесь ночевать у знакомой, которая живет в квартале, в котором процветает наркоторговля. Поэтому вы размываете ее адрес на радиус нескольких миль вокруг, чтобы не ассоциироваться с репутацией этого квартала. Какое-то время спустя вы решите воспользоваться интернет-сервисом, определяющим риск онкозаболевания в зависимости от посещаемых мест. В нескольких зданиях того «нехорошего» района отмечалось превышение норм концентрации свинца и других канцерогенов, но, поскольку этот адрес у вас был размыт, сервис не сможет правильно оценить ваши риски.

Решение размыть данные обычно не обходится без последствий, а предсказать, что это будут за последствия, зачастую невозможно. Ридер Amazon Kindle регистрирует момент начала и окончания чтения книги, а также то, сколько времени потребовалось на каждую страницу. Опасаясь за свои оценки, школьник может не хотеть, чтобы эту информацию видел его учитель, даже если она нужна последнему для того, чтобы подтянуть ученика по предметам, вызывающим затруднения. Можно предоставлять Amazon или другому книжному магазину максимально детализированные данные, чтобы получать информацию о том, что вам может понравиться, после чего обнаружить у своей двери агентов ФБР, поскольку они решили, что вы слишком долго изучали статью о том, как бостонские террористы переделывали скороварку в бомбу. Почти так и случилось в реальной жизни.

Чтобы понимать, какое влияние может оказывать размытие различных аспектов информации в различных ситуациях, потребуется время. Получить представление об этом могла бы очень помочь большая прозрачность инфопереработчиков относительно зависимости ценности продуктов и услуг от степени детализации информации. Кроме того, было бы крайне полезно предоставить пользователям право самостоятельно выбирать настройки детализации данных, отменяя предоставленные по умолчанию. Представьте, что у вас появилась возможность заменить настройки по умолчанию вашего телефона или компьютера настройками конфиденциальности, разработанными или рекомендованными Фондом электронных рубежей, Союзом гражданских свобод или аналогичными организациями. Вам могли бы предоставить несколько типов настроек для разных типов пользователя с подробным объяснением преимуществ и недостатков каждого. Попробовав разные настройки, можно было бы определить, какая из них вам больше подходит и, возможно, установить дополнительные.

А можно ли создать среду, позволяющую большую свободу самовыражения в щекотливых ситуациях? Например, человек может опасаться высказывать политические комментарии под собственным именем, когда знает, что его мнение идет вразрез с мнением работодателя, или не признаваться в злоупотреблении спиртным или наркотиками в заметках пациента к медицинской карте.

В 1960-х годах с этой проблемой столкнулся канадский экономист Стэнли Л. Уорнер, собиравший статистику для своей научной работы. Он понял, что у человека часто бывают веские причины не предоставлять полную информацию о себе, и никакие разговоры об общественной значимости и его же собственной пользе не убедят его стать полностью откровенным. При постановке провокационных вопросов вроде «Курите ли вы марихуану?» или «Диагностирован ли у вас ВИЧ?» способов выявить процент обмана не будет (кроме внезапного анализа крови респондентов).

Уорнер сознавал, что некоторые будут лгать и что он не знает, какие именно подгруппы населения более склонны делать это. Если к ложным ответам склонны жители определенных районов, его данные окажутся неисправимо искаженными. Он предложил создать защитный слой между респондентом и его ответом, придав данным элемент хаотичности.

Вот как это устроено: перед ответом на вопрос человек подбрасывает монетку. Если выпадает орел, он дает честный утвердительный или отрицательный ответ, если решка – только утвердительный вне зависимости от соответствия действительности. Только сам субъект опроса знает, дал ли он откровенный ответ или сказал то, что велела монетка. Если впоследствии к человеку возникнут вопросы в связи с его утвердительным ответом, то он всегда сможет сказать, что так выпало, и предъявить ему какие-либо претензии будет нельзя. Прелесть метода Уорнера в том, что он обеспечивает получение необходимой информации при соблюдении интересов граждан. На самом деле полученные таким способом данные могут быть достовернее полученных без использования элемента хаотичности.

Размытие может применяться как к первичной информации, так и к обогащенной. Жонглируя своими подробностями, мы можем затемнять свои личные данные, в полной мере пользуясь плодами агрегирования и анализа для целей прогнозов и рекомендаций.

Право экспериментировать с обработкой данных

Инфопереработчики постоянно экспериментируют с дизайном, настройками и алгоритмами. В предыдущих главах мы узнали, что они экспериментируют и со своими пользователями. Если они могут экспериментировать с нами, мы тоже должны иметь право экспериментировать с ними.

Если право на изменения представляет собой аналог права на свободу самовыражения, а право на размытие – права на самоопределение, то право на эксперимент относится к свободе исследования, предоставлению пользователям права рассматривать разные возможности. К одной из ключевых функций инфопереработчика относится определение порядка, в котором продукты и услуги представляются пользователю. Ранжирование результатов основано на ряде параметров: новизне (во главу списка попадают самые свежие предложения), географической близости (наверху помещают то, что находится ближе) или социальной близости (на топовых позициях оказывается то, что в большей степени соответствует статусу данного человека). Мне по душе сравнение этих настроек с ручками и движками микшерского пульта звукорежиссера, которые используются для изменения баланса источников звука при записи музыкального произведения.

К сожалению, движки и кнопки приборов инфопереработчика не всегда видны пользователю. Почему эти настройки так часто помещают в «черный ящик», делая незаметными и недоступными для пользователей? Отнюдь не по таким прозаическим причинам, как лень или жадность, и не из-за стойкой приверженности принципу простоты дизайна интерфейса. Отсутствие доступа к регулировкам обусловлено деловыми соображениями, в том числе и такими: это стоит денег, это может раскрыть коммерческие тайны или даже подвести компанию под суд. Компании не занимаются программированием по индивидуальным заказам. Они не будут добавлять регулировки по просьбе пользователей, однако должны хотя бы предоставить им возможность доступа к уже существующим регулировкам. Но есть и соображения эпистемологического характера. Часто бывает трудно подобрать слово, описывающее назначение какой-либо регулировки, которое стопроцентно было бы понятно пользователям и не создавало им дополнительных трудностей. При этом, как указывают в своем фундаментальном труде «Большие данные» Виктор Майер-Шенбергер и Кеннет Кукьер (издательство Манн, Иванов и Фербер, 2013 г. – Ред.), прогностические и рекомендательные функции могут использоваться и без досконального понимания того, как они устроены. При всей обоснованности таких соображений они служат и поводом для ограничения права выбора пользователей. Я считаю, что лишь в процессе практического освоения регулировок люди приобретают понимание их назначения и функционала и того, какие настройки подходят им больше.

Функция срочного подбора рейсов на билетном сайте Hipmunk ранжирует предложения по комбинации цены, количества пересадок и времени в пути. Хотя это шаг в правильном направлении, пользователю, которому не слишком понравились результаты срочного подбора, придется прибегнуть к сортировкам только по цене, только по времени вылета или только по времени прилета, или попытаться отфильтровать то, что его точно не интересует (какие-то авиакомпании или перелеты со многими пересадками, например). А разве не было бы удобнее для всех, если бы пользователь мог самостоятельно обозначать вес каждого параметра в формуле срочного подбора? Следующим шагом могла бы стать возможность варьировать веса каждого из условий срочного подбора. Это было бы и в интересах самой Hipmunk. Инновационные решения компании в части группировок авиарейсов или удобной и детальной визуализации сравниваемых маршрутов не принесут большой пользы в случае, если значимость факторов, определяющих выбор потенциального клиента, не совпадает с пониманием компании. Дайте пользователю возможность поиграть с настройками и найти рейс, устраивающий его во всех отношениях.

В МИРЕ ДАННЫХ

ОДНИМ ИЗ НАИБОЛЕЕ

ЗНАЧИТЕЛЬНЫХ

НЕПРОГНОЗИРУЕМЫХ

НЕГАТИВНЫХ РЕЗУЛЬТАТОВ

ЯВЛЯЕТСЯ ВЗЛОМ

Давайте посмотрим, какого рода данные накапливаются в Amazon. Компания регистрирует все ваши покупки и адреса доставки. Помимо истории просмотров и покупок для выработки рекомендаций можно было бы проанализировать, насколько далеко от вас живут другие люди, рассматривавшие этот же товар. Возможно, вам пригодятся рекомендации, сделанные на основе статистики о наиболее частых покупках в вашем городе или штате, особенно если вы ищете специфический для этой местности товар, например с пониженным потреблением воды, если живете в засушливой Калифорнии. У Amazon есть и другие виды информации, с которыми интересно поэкспериментировать, в частности тип устройства, использованного при просмотрах. Если вы делаете это с помощью телефона, то сможете быстрее найти то, что вам нужно, если сделаете акцент на товарах, заказанных именно с мобильных устройств, а не с ПК. Для этого может потребоваться аутентификация устройства, например, чтобы учесть, что вы выходите в интернет через wi-fi в салоне самолета.

Инфопереработчики могут утверждать, что обнародование их внутренних настроек, в том числе по умолчанию, снизит их конкурентные преимущества. Разумеется, некоторые организации могут быть против предоставления пользователям возможности экспериментировать с регулировками, поскольку строят определенную часть бизнеса на информации, остающейся в их распоряжении. Несколько лет назад двадцатидвухлетний предприниматель Актарер Заман создал Skiplagged – веб-сайт, с помощью которого пользователи могли находить авиабилеты по более низкой стоимости, чем официальные тарифы авиакомпаний. Создатель сайта учел тот факт, что авиакомпании иногда делают скидку на сложные маршруты с пересадками в узлах, которые сами по себе являются популярными направлениями. Например, в определенный день мне нужно попасть из Сан-Франциско в Денвер, и самый дешевый тариф составляет 750 долларов. Та же авиакомпания может предлагать перелет из Сан-Франциско в Финикс через Денвер за 500 долларов, то есть первая часть маршрута как раз и является нужным мне рейсом. Получается, за то, что я пролечу на 600 миль меньше, с меня возьмут на 50 процентов больше, поскольку спрос на рейсы в Финикс ниже, чем на рейсы в Денвер. Заман назвал это продажей билетов в «невидимые города». Авиакомпания United Airlines подала на Skiplagged в суд, обвинив сайт в «недобросовестной конкуренции», хотя Заман всего лишь сообщил потребителям о существовании такого побочного продукта системы управления доходами авиакомпаний. Наличие доступа к регулировкам, а не просто к информации, позволит нам изучать и находить схожие случаи, когда интересы поставщика услуг не совпадают с нашими собственными.

Самое важное, что, получая инструменты для экспериментов с настройками обработки информации и возможность видеть, как изменяются результаты, мы приобретаем знания о функционале личных предпочтений. Что мы чувствуем, изучая возможности различных вариантов, и как это сказывается на процессе выбора? Психологи Дэниел Канеман и покойный Амос Тверски в своих эпохальных научных работах о принятии решений в условиях неопределенности показали, что при решении задач с множеством неизвестных, не позволяющих оперативно получить оптимальный результат, люди часто руководствуются эвристиками или ментальными упрощениями. Дэнни и Амос выделяли три основных типа эвристики: эвристику доступности, то есть легкость, с которой появляется некая мысль; эвристику репрезентативности, то есть желание придавать большую значимость тому, что кажется более типичным; и эвристику закрепления – склонность судить о чем-либо, отталкиваясь от некой отправной точки. Почти через полвека с момента публикации их основополагающего труда образовалась целая область знаний с сотнями вариаций на тему эвристики. Однако получить лучшее представление о том, насколько мы подвержены эвристикам, можно только экспериментальным путем. А с использованием регулировок современных методов обработки данных можно исследовать свои предположения относительно текущей ситуации и ожидания от будущего.

Вот конкретный пример. Консультировать человека по поводу объема накоплений, который позволит безбедно существовать после выхода на пенсию, трудно, поскольку такой расчет будет обусловлен многими неизвестными. В каком состоянии будет экономика через пять или через десять лет? Насколько вырастут цены на энергоносители и какие новые источники энергии появятся? Каковы будут потребности человека в услугах здравоохранения, если он непредсказуемо заболеет? Все эти факторы окажут непосредственное влияние на финансовое положение будущего пенсионера, но информации о них крайне мало. Человек не сможет существенно влиять на них, даже если получит ответы от некоего оракула. Но зато он может проиграть несколько сценариев и посмотреть, какие последствия могут повлечь решения, которые он способен принимать. Поэкспериментировав с параметрами модели, например с макроэкономическими условиями и структурой пенсионных накоплений, он может оценить вероятность различных вариантов и, возможно, сделать вывод о наиболее комфортном из них, который, возможно, будет далек от первоначального представления. Нам нужно поручить инфопереработчикам создать такие инструменты многовариантного анализа и дать нам доступ к ним.

Многовариантный анализ полезен во многих областях жизни. Вообразите себя выпускником школы, которого принимают и в Гарвард, и в Стэнфорд. Какой из университетов выбрать? И как принимать решение? В 2014 году социальная сеть LinkedIn запустила сервис University Pages, который анализирует огромный массив размещенных на сайте резюме, чтобы выяснить, где работают выпускники определенного университета и как складываются их карьеры. Такая «обогащенная» информация может помочь принять решение на основе многовариантного причинно-следственного анализа, сфокусированного как на изначальных допущениях (какой университет), так и на результатах (вероятная карьера). Если у будущего студента уже есть карьерный ориентир (например, пойти работать в Google, McKinsey, Monsanto или Всемирный фонд дикой природы), он может проверить, отличает ли выпускников данного университета необычно высокая вероятность устроиться на работу к определенному работодателю. Можно посмотреть, какие университеты являются главными поставщиками кадров для определенных профессий, включая такие увлекательные занятия, как консультант общественных организаций, сценарист телесериалов или инженер по керамике. Можно поэкспериментировать с фильтрами, чтобы выяснить, какие специальные курсы, помимо основных общеобразовательных, увеличивают шансы попасть на желаемую работу после выпуска.

Как и во многих ситуациях выбора, планирование пенсионных накоплений и выбор высшего учебного заведения подразумевают, что придется чем-то поступиться. Часто люди не знают, насколько сильно им что-то нужно, до тех пор пока их не заставят отказаться от этого. Именно рассматривая альтернативы, мы приходим к пониманию того, какие результаты устраивают нас больше, а какие – меньше. Экспериментируя с настройками, люди получат возможность заранее оценить предстоящие варианты. Право на эксперимент открывает новые просторы для обоснования наших решений.

Право переносить свои данные

Как и с правами на изменение, размытие и эксперимент, право на перенос имеет целью расширение свободы выбора. В предыдущей главе я утверждал, что право доступа к данным есть нечто большее, чем право видеть свои биты и байты. Это право увидеть информацию в нужном и понятном виде, например в сравнении с агрегированными данными или эталонными значениями. Для целей разумной прозрачности надо иметь возможность интерпретировать свои данные. На основании права доступа можно потребовать от инфопереработчика предоставить копию своих данных, но в подавляющем большинстве случаев это не принесет большой пользы в отсутствие возможности обработать их где-то еще. Полноценная свобода выбора означает, что вы можете свободно пользоваться своими данными – как хотите и где хотите. В этом заключается фундаментальный смысл права на перенос.

Вывоз или ввоз реальных предметов подразумевает их перемещение из одного места в другое. При переносе данных информация продолжает существовать там, где она создавалась. Возьмем типичный случай – выпускник бакалавриата хочет направить справку об успеваемости нескольким потенциальным работодателям или в несколько магистратур. Несомненно, что все сведения об оценках останутся в университете и после того, как справка об успеваемости будет разослана. Но даже этот элементарный пример дает представление о сложностях, присущих переносу данных для их дальнейшего использования в других местах. Прежде всего получатели должны будут иметь возможность проверки подлинности справки, выданной университетом. Далее выпускник может захотеть убедиться, что справку отправили только указанным им адресатам. Он может задуматься по поводу оценок и решить, есть ли смысл отправлять подробную ведомость успеваемости всем адресатам. Если это сделать, то плохие оценки можно будет объяснить в сопроводительном письме или на собеседовании, то есть дополнить информацию. Выставить справку об успеваемости на всеобщее обозрение или отправить ее копии будет означать, что влияние выпускника на процесс ознакомления с информацией уменьшится.

В течение многих лет все это делалось вручную: выпускник получал выписки в запечатанных конвертах и рассылал их по своему усмотрению. В этом случае ручная система работала, потому что масштаб данных был относительно невелик: ежегодно в магистратуру зачисляли примерно миллион студентов, и немногочисленные адресаты получали небольшой объем информации, созданный на протяжении достаточно долгого периода времени, то есть отчет об учебе выпускника в течение четырех лет, выраженный в виде академических оценок.

Для переноса данных, создающихся каждым новым кликом или свайпом миллиарда человек, требуются более изощренные технологии. Кроме того, поскольку одной из важных функций инфопереработчика является обобщение результатов репутационного анализа, ему приходится проявлять повышенное внимание к возможности появления информации неизвестного происхождения. Системы оценок и отзывов, наподобие разработанных в eBay или Amazon, могут быть уязвимыми для мошенников, размещающих сфабрикованную информацию о своих блистательных успехах у потребителей на других сайтах. Утрата доверия пользователей к репутационным данным чревата утратой доверия к инфопереработчику и экосистеме в целом. Чтобы оставаться функциональной, перенесенная информация должна быть аутентифицирована и верифицирована.

Верификация может осуществляться при помощи ключей шифрования, которые уже сейчас широко используются в электронных коммуникациях. У вас есть два ключа – известный только вам индивидуальный и общедоступный, открытый. Предположим, вы собираетесь отправить сообщение, а получателю нужно будет удостовериться, что оно действительно от вас. Вы шифруете информацию с помощью индивидуального ключа, а получатель сможет верифицировать ее, использовав ваш открытый ключ. Система двух ключей позволяет решить и другую проблему, возникающую в ситуации, когда вы хотите, чтобы отправляемое сообщение не смог прочитать никто, кроме его адресата. Вы шифруете свое послание с помощью открытого ключа адресата, после чего его сможет открыть и расшифровать только тот, кто знает и его индивидуальный ключ. Сочетание этих подходов позволяет верифицировать отправителя и ограничивать возможность несанкционированного чтения сообщений. Шифрование следует применять во всех случаях переноса информации.

Передавать информацию можно порциями, направляя ряд электронных писем подобно тому, как печатаются и рассылаются университетские справки об успеваемости. Но то, что вполне подходит для системы высшего образования, никак не соответствует масштабу многообразной информации, которую могут запрашивать миллиарды активных пользователей платформ социальных данных. Кроме того, верифицированная информация должна передаваться в формате, позволяющем адресату обрабатывать ее непосредственно по получении. К счастью, такой протокол информационного обмена уже существует: это интерфейс прикладных задач API. Интерфейсы API позволяют разработчикам получать данные от инфопереработчиков в автоматическом режиме, без необходимости отправки последовательных запросов с последующей интерпретацией поочередно получаемых результатов. С помощью API сайты путешествий вроде Hipmunk могут за считаные секунды получать информацию о тарифах и расписаниях полетов десятков авиакомпаний. API предоставляет разработчикам возможность создавать новые продукты и услуги на основе информации из различных источников.

Информация, полученная в ответ на запрос API, представляет собой моментальный снимок, сделанный в строго определенный момент времени. Так, ответив на ваш запрос, Hipmunk не обновляет в режиме реального времени информацию об изменениях ситуации с наличием мест и тарифов. Вы понимаете, что, пока вы обдумываете варианты, какое-то из предложений может «уйти». Но если обновлять результаты поиска по мере поступления и анализа новой информации, вам будет намного труднее сделать выбор из постоянно меняющихся вариантов.

Ваши данные не должны «сидеть под замком» у инфопереработчика. Вам будет полезнее сочетать, сопоставлять и сравнивать их с информацией из других источников. Это особенно справедливо в свете того, что некоторые из важнейших социальных данных относятся к добросовестности и репутации. Сервисы такси Uber и Lyft строят свою репутацию на основе оценок и отзывов потребителей и о водителях, и о пассажирах. Средняя оценка водителя – ключевой показатель качества работы с клиентами. В 2015 году падение средней оценки водителя Uber ниже отметки 4,6 по пятибалльной шкале было чревато блокировкой его аккаунта. Каждый заказ последовательно направляется водителям, находящимся поблизости, у которых есть пятнадцать секунд на прием вызова. Если водитель не укладывается в этот срок, система переадресует заказ следующему, ближайшему к месту подачи. Если показатель приема заказов падает ниже 80 или 90 процентов, водитель получает предупреждение, а при наличии большого количества предупреждений его аккаунт может быть заблокирован. При отказе от трех вызовов подряд система считает его недоступным и прекращает направлять вызовы примерно на десять минут, поскольку холостые вызовы могут увеличить время ожидания пассажира. Блокировка аккаунта становится еще более вероятной, если водитель пытается обмануть систему, принимая все вызовы, а затем отменяя их.

Исходя из результатов анализа данных, эти платформы стараются стимулировать работу водителей. Каждая из них заинтересована в максимальном количестве водителей в моменты пикового спроса, и у каждой есть программы, стимулирующие водителей работать с платформой как можно дольше. Lyft постаралась увеличить свою привлекательность, отменив взимание комиссии с водителей начиная с шестидесятой поездки в течение недели, при условии приема не менее 90 процентов полученных заказов. Схожую систему применяют в Uber: в 2015 году, чтобы попасть в программу гарантированного почасового вознаграждения, водитель был обязан не только принимать от 80 до 90 процентов заказов, но и присутствовать на платформе не менее 15 минут, а также выполнить минимум одну поездку в течение определенного часа (обычно часа пик). Соблюдение этих норм означало, что водитель получит свой гарантированный доход от Uber, даже работая с другой платформой, что не запрещается.

Такие компенсационные модели делают смену работы настоящей проблемой. Создав себе отличную репутацию на одной платформе, водитель оказывается перед выбором: продолжать работать на ней или попробовать перейти к конкуренту, где потребуется строить репутацию с нуля? Если все данные о его репутации ограничены пределами единственной платформы, точно так же ограничены и его возможности поиска новой работы.

Право на перенос бросает вызов такому положению дел, сдвигая баланс сил в пользу гражданина. Альберт Уэнгер из компании Union Square Ventures предложил наделить работающих в сфере экономики коллективного потребления (к которой относятся Uber, Lyft и аналогичные им сервисы такси) «правом на ключ API» – устройством, предоставляющим доступ к определенной части пользовательских данных через интерфейс прикладных задач. Цель состоит в том, чтобы уравнять шансы пользователей и инфопереработчиков при обсуждении вопроса о том, что получают первые в обмен на предоставленные данные. Таким образом пользователи могут перемещать информацию о себе на новые «рынки», например на специальный сайт для высококвалифицированных водителей, которым сервисы такси будут готовы приплачивать за переход к ним. Возможность переносить репутационные, транзакционные и прочие данные из одной компании в другую улучшит позиции востребованных работников в переговорах с потенциальными работодателями. Право на перенос позволит им всегда иметь свою репутацию при себе, так же как это происходит в реальном мире.

Вдобавок право на перенос заставит компании сфокусироваться на создании лучших продуктов и сервисов, а не просто на накоплении информации. Опыт первых двадцати лет существования клиентоориентированных интернет-компаний показывает, что те, кто был нацелен на сбор большего количества высококачественных данных, как правило, становились успешнее тех, кто сосредотачивал усилия на разработке алгоритмов. Данные важнее алгоритмов. В этой связи компаниям, совершенствующим персонализацию, будет интересно получать перенесенные данные, поскольку добавление и приобщение информации из других источников повышает ее качество.

Однако для пользы частных лиц нужно, чтобы информационный поток шел в обоих направлениях – входящем и исходящем. Пользователям нужно будет занять твердую позицию и передавать свою информацию только тем переработчикам, которые позволяют ее перенос. Им нужно будет требовать возможности переноса данных от крупных игроков рынка, таких как Google, Facebook и Amazon, имеющих естественное преимущество перед новыми компаниями, лишь приступающими к сбору информации. С точки зрения пользователя, право на перенос гарантирует, что его информация не станет заложницей какого-то одного инфопереработчика и ее можно будет использовать для работы с другими.

Тысячелетиями люди боролись за право на свободное физическое перемещение. Теперь мы все как один должны подняться на борьбу за право свободного перемещения наших данных. В революции социальных данных мобильность – залог свободы выбора.

Влияние на машины

Четыре вида прав, относящихся к свободе выбора, предлагают пользователям контролировать свою информацию и настройки, влияющие на результаты работы с информацией, не обращаясь к властям с просьбой подробного нормирования использования данных. Однако важно внести ясность относительно того, что лучше получается у машин, а что – у людей. Я считаю, что нужно предоставить людям заниматься тем, в чем они хороши, а компьютерам – тем, что лучше получается у них, и не путать одно с другим. Понимание того, что нужно контролировать самому, а что можно оставить на усмотрение машин, приходит с опытом.

Чтобы пояснить смысл сказанного, обратимся к одному из первых примеров того, как технология потребовала от людей частично уступить управление механизму. В 1960-х годах несколько крупных автопроизводителей и инжиниринговых фирм изучали возможности создания антиблокировочного тормозного устройства (ABS) для автомобилей. Применение схожих систем в самолетах, где ошибка пилота при торможении может стоить сотен человеческих жизней, уже сделало авиацию более безопасной. Однако и продавцы, и потребители-энтузиасты, и даже некоторые отраслевые эксперты отнеслись к идее недоверчиво, мол, «покупатели никогда не доверят управление автомобилем в заносе какой-то паре транзисторов». В 1978 году флагманские модели Mercedes Benz и BMW начали оснащать первыми серийными ABS производства фирмы Bosch. Испытания показали устойчивый результат: компьютер надежнее и точнее управлял тормозной системой при заносе, а управление движением автомобиля лучше удавалось человеку. Сочетание двух систем – машинной и человеческой – сделало вождение безопаснее. На основе опыта нескольких десятилетий власти решили, что безопасности движения угрожает как раз отсутствие ABS, и сегодня этой системой оснащаются все автомобили, производящиеся в США и европейских странах.

Мы уже вполне спокойно доверяем многие функции управления автомобилем бортовым компьютерам. Однако они принимают не все решения, а лишь те, которые удаются им лучше, чем человеку. Примером может служить круиз-контроль. Первые образцы этой системы позволяли водителю поддерживать определенную скорость движения без нажатия педали газа. Компьютер не воспринимал информацию о дорожной обстановке и не изменял скорость. Эти функции осуществлял водитель.

В более поздних системах «адаптивного» круиз-контроля компьютеру уже была отведена определенная роль в оценке окружающей обстановки. Некоторые системы предупреждают водителя или изменяют скорость движения на основе сенсорных данных, например, если в непосредственной близости оказывается другая машина или какое-то препятствие. Это позволяет соблюдать безопасную дистанцию, а водителю не нужно заботиться об отключении круиз-контроля в потенциально аварийных ситуациях. В системах оповещения и распознавания дорожных знаков Mercedes Benz, BMW и ряда других производителей применяются сочетания инфракрасных датчиков расстояния и фронтальных видеокамер, информация с которых обрабатывается бортовым компьютером, а в ряде случаев сопоставляется с геолокационной базой данных ограничений скорости. Следующей стадией разделения труда в деле управления автомобилем между человеком и компьютером являются системы автоматического экстренного торможения (AEB). Уже с первых шагов использование этих систем позволило почти на 50 процентов сократить количество наездов сзади, а распространение систем предупреждения лобовых столкновений сократило число таких происшествий примерно на четверть. Современные технологии позволяют бортовым компьютерам связываться друг с другом и обмениваться информацией о местоположении, скорости и направлении движения, а также о ближайших намерениях – перестроениях, поиску парковки и т. п. Каждая из подобных инноваций – еще один шаг, приближающий наступление эпохи беспилотных автомобилей.

В наши дни компьютеры отвечают за многие аспекты безопасности движения. Но насколько уютно вы будете чувствовать себя за рулем машины, скорость которой автоматически увеличивается на основе показаний сенсорных устройств вне зависимости от предпочтений водителя? Компьютер может понимать наши пожелания и корректировать соответствующие параметры, но акцент должен оставаться на наших собственных решениях и их последствиях. Это будет становиться все более важным по мере того, как социальные данные интегрируются в коммерцию, финансы, трудовую деятельность, образование, здравоохранение и государственное управление. Требуя предоставить инструменты контроля над прозрачностью обработки информации и обеспечить осуществление права на свободу выбора, мы сохраняем контроль над самым важным – возможностью видеть, каким образом данные формируют наши решения при сохранении полномочий на самостоятельное принятие этих решений.