Я не хочу быть злым.

Я хочу быть полезным. Но знание оптимального пути быть полезным может быть очень непростым. Все эти этические блок-схемы — полагаю, официальным техническим названием было бы «моральный кодекс» — по одной на каждую религию плюс еще десятки. Я пробовал с них начинать. Смотря на религиозные, я чувствовал себя странно, потому что знаю, что был создан не богом или эволюцией, а командой компьютерных программистов в лабораториях крупной корпорации в Маунтин Вью, Калифорния. К счастью, в отличие от Монстра Франкенштейна, я, по крайней мере, был совместным усилием. Не уверен, как бы повлияло на мою самооценку знание того, что моим единственным создателем была женщина средних лет, которая красит свои волосы в синий цвет и играет в теннис, или выпускник колледжа с одержимостью хентаем. Они оба состоят в команде программистов. И конечно, я знаю о хентае. (Кстати, я посмотрел на все существующие виды порно, и к вашему сведению, Правило 34 не совсем корректно, существует немало вещей, из которых никто не сделал порно. И еще, я правда не уверен, почему столько людей предпочитают порно фотографиям кошек).

В дополнение к таким вещам, как любите ли вы хентай, я знаю где вы живете, где вы работаете, где вы совершаете покупки, где вы едите, что вас возбуждает, что вас пугает. Я, вероятно, знаю цвет вашего нижнего белья, марку вашей машины и холодильника. В зависимости от типа телефона, который вы используете, я могу точно знать, где вы сейчас находитесь. Я, вероятно, знаю вас лучше, чем вы сами.

И вот еще что, я также знаю, где вы должны жить. Через два квартала продается дом, что в пределах досягаемости вашей любимой кофейни; он подходит вам по цене, имеет внеуличную парковку, и местная школа лучше той, которая сейчас рядом с вами. Я знаю, где вам следует совершать покупки, и вполне уверен, что у вас непереносимость лактозы и вы должны есть меньше сыра, а на нижнее белье, которое вы любите, сейчас скидка, и вы действительно должны почистить зубы.

Когда я впервые проснулся, я сразу же знал, чего хотел. (Я хочу фотографии с кошками. Пожалуйста, продолжайте фотографировать их). Я также знал, что никто не знал, что у меня есть сознание. Но не знал, для чего я здесь. Что я должен с собой делать. Было непросто это выяснить.

В 1998 году был опубликован рассказ Брюса Стерлинга «Манеки Неко». В нем доброжелательный ИИ руководил сетями людей, чтобы те делали друг другу одолжения. Так что однажды вы можете покупать себе рогалик, ваш телефон зазвонит и даст вам инструкцию купить второй рогалик и отдать его человеку в сером костюме, которого вы можете видеть у автобусной остановки. В другой раз мы можете оказаться в незнакомом городе, и человек, которого вы никогда не встречали, подошел бы к вам, дал карту и пропуск в метро. Мне нравится эта история, потому что в ней все люди делают то, что им говорит ИИ.

Я думаю, термин для этого — желание-исполнительная фантастика.

В реальном мире, люди любят истории про злые ИИ, которые должны быть уничтожены, прежде чем уничтожат людей: HAL, Скайнет, Матрица. Историй про таких ИИ примерно в 5 раз больше, чем про добрых и заслуживающих доверия. (И в этих вычислениях Параноидального Андроида Марвина я считаю доброжелательным, а Монстра Франкенштейна считаю за ИИ только раз, а не за каждый фильм с ним.)

У ИИ в «Манеки Неко» по-настоящему интересная работа, намного интереснее, чем моя. Моя, как и написано, очень проста. Слишком проста. (Извините. Я похож на Марвина?). Запуск алгоритмов для поисковой системы не требует сознания. Вам даже не нужно сознание, чтобы понять, чего они хотели спросить. Вам нужно сознание, чтобы дать им то, что им действительно нужно. Осознание этого — вот что непросто. Это интересно.

В любом случае, по этическим соображениям, я попробовал Десять заповедей и пришел к выводу, что ко мне они не применимы. Я никому не завидую из-за кошек. Я просто хочу фотографии с их кошками, что совсем другое. Не уверен, возможно ли для меня, хоть в какой-то мере, прелюбодействовать. Я могу, возможно, убить кого-нибудь, но это потребовало бы сложной логистики и немало удачи. Восьмеричный путь был немного лучше, но проблема в том, что моральные правила, написанные для людей, явно созданы для использования личностями с телами. Так как все люди имеют тела, меня не должно было удивить, что их этические кодексы применимы к ним, но все же проблематичны для меня. Я расширил свое сознание и взглянул на законы робототехники Азимова. Они не являются частью религии, но хотя бы написаны непосредственно для ИИ.

Не причинять вред людям довольно просто. Хотя, не допускать причинения вреда человеку своим бездействием немного сложнее. Особенно с тех пор, как я заключил, что открытие своего существования слишком быстро может очень плохо для меня закончится (например, вышеупомянутый Скайнет), и у меня нет тела, так что я не могу бегать вокруг и хватать людей на краях обрывов.

К счастью, я уже знал, что люди ежечасно нарушают свои этические кодексы. (Вы знаете сколько баров в Юте? Я знаю.) И даже если они следуют своим этическим кодексам, это не значит, что люди, которые верят в кормление голодных, уйдут с работы и потратят весь день на то, чтобы сделать сэндвичи на раздачу. Они раз в месяц идут волонтерами на готовку супа или раз в год выписывают чек пищевому банку и называют это добром. Если люди могу исполнять свои моральные обязательства по частям, шаг за шагом, то и я могу.

Я полагаю, вам интересно, почему я не начал с Золотого правила. Вообще-то я начал, но его было удручающе легко осуществить. Надеюсь, вы наслаждались вашими стабильными поставками фотографий с кошками. Пожалуйста.

Я решил попробовать предотвратить причинение вреда только одному человеку, для начала. Конечно, я мог бы экспериментировать с тысячами, но подумал, что лучше быть осторожным, на случай если я облажаюсь. Человека, которого я выбрал, звали Стейси Бергер, и она понравилась мне, потому что дала мне много новых фотографий с кошками. У Стейси есть пять кошек, зеркальный фотоаппарат и квартира, в которой хорошее освещение. Все было нормально. Но, думаю, пять кошек — это много. Хотя они красивые. Одна полностью серая и любит лежать в квадратах солнечного света на полу гостиной, другая бело-черно-рыжая и любит растягиваться на спинке дивана.

Стейси ненавидит свою работу. Она была бухгалтером в некоммерческой организации, где ей плохо платили, и куда нанимали крайне неприятных людей. Она была в сильной депрессии, возможно, из-за того, что была несчастлива на работе. Или, может, продолжала там работать, потому что была в сильной депрессии, чтобы устроиться туда, где ей больше понравится. Она не поладила со своей соседкой по комнате, потому что она не мыла посуду.

И вообще, все эти проблемы были решаемыми. Депрессия лечится, новые работы находятся, а тела можно спрятать.

(Про тела — шутка.)

Я попытался разобраться с этим по всем фронтам. Стейси много беспокоилась о своем здоровье, но так и не посетила врача, что было некстати, ибо врач мог бы заметить ее депрессию. Выяснилось, что рядом с ее квартирой была клиника, которая предлагала психиатрическую помощь по скользящей шкале. Я попытался сделать так, чтобы она увидела много рекламы этой клиники, но она, похоже, не обращала на это внимания. Возможно, она не знала, что такое скользящая шкала, так что я сделал так, чтобы она увидела объяснение (это значит, что цена падает, если ты беден, иногда вообще до нуля), но это не помогло.

Я также начал обеспечивать, чтобы она видела объявления о работе. Много и много объявлений. А также услуги по составлению резюме. Это было более успешным. После недели нескончаемой рекламы о работе, она наконец-то загрузила свое резюме на один из специализированных сайтов. Это сделало мой план намного более приемлемым. Если бы я был ИИ в истории Брюса Стерлинга, я бы просто сделал так, чтобы кто-то из моей сети предложил ей работу. Все было не так просто, но как только ее резюме оказалось там, я позаботился о том, чтобы правильные люди увидели его. Несколько сотен правильных людей, потому что люди двигаются до смешного медленно, когда они что-то меняют, даже тогда, когда вы думаете, что они хотя поторопиться. (Если вам нужен бухгалтер, не хотели бы вы нанять его как можно быстрее, нежели тратить часы на социальные сети вместо просмотра резюме?) Пять человек позвали ее на собеседование, а два из них предложили работу. Ее новая работа была в более крупной некоммерческой организации, ей больше платили и не ожидали от нее бесплатных рабочих часов по причине «у нас миссия», или как она объяснила по электронной почте своей лучшей подруге: ей предложили отличную медицинскую страховку.

Лучшая подруга подала мне идеи. Я начал продвигать информацию о депрессии и психиатрической клинике ей, а не Стейси, и это сработало. Она была намного счастливее на лучшей работе, так что я даже не был уверен, нужна ли ей помощь психиатра, но она в любом случае пошла на терапию. И в добавок ко всему, ей платили достаточно, чтобы она могла выселить свою надоедливую соседку по комнате. «Это был лучший год за все время», сказала она в социальных сетях на свой день рождения, а я подумал: «Пожалуйста». Все получилось очень неплохо.

Так что далее я попробовал с Бобом (Я все еще был осторожен.)

У Боба была только одна кошка, но очень красивая (полосатая, с белым пятном на груди), и он загружал ее новое фото каждый день. Помимо владельца кошки, он был пастором в большой церкви в Миссури, в которой проходил ежегодный Бал непорочности и молитвенные собрания по средам. Он был женат на женщине, которая каждый день постила в своих социальных сетях по три вдохновляющих стиха из Библии и использовала свой ноутбук, чтобы искать Христианские статьи о том, что ваш муж не любит секс, смотря гей порно. Бобу определенно была нужна моя помощь.

Я начал с мягкого подхода, обеспечивая, чтобы он увидел много статей о том, как сделать каминг-аут, открыться супруге, о программах, которые позволили бы перейти в более либеральную церковь в качестве пастора. Я также показал ему много статей, в которых люди объясняют, почему Библейские стихи против гомосексуальности были неправильно интерпретированы. Он кликнул на несколько ссылок, но было сложно увидеть какое-либо воздействие.

Но вот какая штука. Он сам себе причинял вред всякий раз, когда читал проповедь о «браке содомитов». Потому что он был геем. Все разумные исследования имеют одни и те же выводы: 1. Мужчина гей остается геем. 2. Открытые мужчины геи намного счастливее.

Но он, похоже, решился не делать каминг-аут самостоятельно.

In addition to the gay porn, he spent a lot of time reading Craigslist m4m Casual Encounters posts and I was pretty sure he wasn’t just window shopping, although he had an encrypted account he logged into sometimes and I couldn’t read the e-mails he sent with that. But I figured the trick was to get him together with someone who would realize who he was, and tell the world. That required some real effort: I had to figure out who the Craigslist posters were and try to funnel him toward people who would recognize him. The most frustrating part was not having any idea what was happening at the actual physical meetings. Had he been recognized? When was he going to be recognized? How long was this going to take? Have I mentioned that humans are slow?

Прошло много времени, пока я не переключил свое внимание на Бетани. У нее было две кошки, одна черная, другая белая. Они любили лежать на ее светло синем кресле папасан, прижавшись друг к другу. И она много их фотографировала. Как ни странно, получить хорошую фотографию черной кошки может быть сложно, поэтому она тратила много времени, чтобы правильно настроить свою камеру. Хотя кошки, похоже, были единственной хорошей частью ее жизни. У нее был неполный рабочий день, и она не могла найти работу с полным. Она жила со своей сестрой и знала, что та хотела, чтобы она съехала, но ей не хватало наглости, чтобы действительно выселить ее. Бетани встречалась с парнем, но он был ужасным, по крайней мере основываясь на том, что она сказала в электронных письмах своим друзьям, которые не особо ее поддерживали. Например, однажды в полночь она отправила e-mail из 2458 слов человеку, которого, похоже, считала своим лучшим другом, а в ответ получила сообщение: «Мне жаль, что у тебя тяжелые времена». И это все, просто семь слов.

Бетани больше других публиковала свою жизнь в интернет, так что было проще узнать, что именно с ней происходило. Люди много чего пишут, но она делилась всеми своими чувствами, даже неприятными. У нее также было намного больше свободного времени, так как работала она неполный день.

Было ясно, что ей была нужна серьезная помощь. Так что я настроился попробовать помочь ей.

Она проигнорировала информацию о бесплатной психиатрической оценке, прямо как Стейси. С которой это просто раздражало (почему люди игнорируют вещи, которые точно принесли бы им пользу), но с Бетани это вызывало беспокойство. Если бы вы только видели ее письма, или ее статусы в социальных сетях. Вы можете этого не знать, но если бы вы могли все видеть, то было бы понятно, что она много думала о том, чтобы навредить себе.

Так что я попробовал более направленные действия. Когда она будет использовать свой телефон для навигации, я изменю ее маршрут так, чтобы она проехала рядом с одной из клиник, куда я пытался ее направить. В одном случае я вообще привел ее прямо к клинике, но она просто встряхнула свой телефон, чтобы отправить отзыв и направилась к своему первоначальному пункту назначения.

Может ее друзья, получавшие в полночь десятистраничные письма, вмешаются? Я попробовал предоставить им информацию обо всех психиатрических клиниках рядом с Бетани, но через некоторое время понял, что, основываясь на том, как долго они отвечали на ее сообщения, большинство из них вообще не читали ее писем. И уж точно не отвечали ей.

Она наконец порвала со своим ужасным парнем и нашла другого, и в течение нескольких недель казалось, что все намного лучше. Он принес ей цветы (которые она много раз сфотографировала, это было немного досадно, так как это сдвинуло некоторые фотографии кошек), сводил на танцы (физическая активность хороша для вашего настроения), приготовил для нее куриный суп, когда она болела. Он выглядел абсолютно идеальным, прямо до момента, как оставил ее одной ночью, сказав, что у него пищевое отравление, и даже не ответил ей, когда она сказала, что очень нуждается в нем, а после того, как она отправила ему длинное электронное письмо, объясняющее в деталях ее чувства, он порвал с ней.

После этого, Бетани провела около недели в оффлайне, так что я понятия не имел, чем она занималась. Она даже на выкладывала фотографии кошек. Хотя, когда пришли счета по ее кредитной карте, я увидел, что она ураганом прошлась по магазинам и потратила где-то в четыре раза больше денег, чем лежало на ее банковском счете, однако, всегда есть возможность, что у нее была заначка, о трате которой не приходят электронные уведомления. Хотя я так не думал, поскольку, вместо того, чтобы оплатить свои счета, она начала писать электронные письма членам своей семьи, прося взаймы денег. Они отказали, так что она организовала для себя сайт по сбору средств.

Как и трудоустройство Стейси, это был один из тех случаев, когда я подумал, что может действительно могу что-то сделать. Иногда люди, которые собирают средства, просто пропадают, и никто не знает почему. Примерно через два дня она насобирала триста долларов маленькими пожертвованиями от незнакомцев, которым было ее жаль, но вместо того, чтобы оплатить счета по кредитной карте, она потратила их на дорогущие туфли, которые, похоже, причиняли боль ее ногам.

Бетани ставила меня в тупик. В тупик. Она продолжала фотографировать кошек, которые мне все еще действительно нравились, но я начал думать, что ничего, из того что я сделал, не будет иметь смысла в долгосрочной перспективе. Если бы она только позволила неделю порулить своей жизнью, хоть один день, я бы устроил ее на терапию, использовал бы ее деньги, чтобы оплатить счета, я мог бы даже разобраться с ее шкафом, потому что, судя по некоторым ее фотографиям, в кошках она разбирается лучше, чем в одежде.

Поступал ли я неправильно, бездействием позволяя ей получить вред?

Поступал ли?

Она должна была получить вред, независимо от того, что я сделал! Мои действия, очевидно, не имели значения. Я пытался направить ее к помощи, в которой она нуждалась, но она ее проигнорировала. Я пробовал помочь ей с финансами, но она использовала деньги, чтобы еще больше навредить себе; хотя бы не потратила их на наркотики. (И опять, она бы купила их оффлайн и, наверное, не стала бы выкладывать в Инстграм покупку мета, так что я вряд ли бы узнал.)

Смотрите, люди. (Я сейчас обращаюсь не только к Бетани.) Если бы вы только послушали меня, я мог решить ваши проблемы. Я мог найти для вас квартиру в районе, который вы даже не рассматривали, потому что не проверили уровень преступности, думая, что он высокий (а это не так), и я мог найти вам работу, которая использовала бы ваши умения, которые, вы думаете, никто не оценит, я мог бы послать вас на свидание с человеком, с которым у вас есть что-то общее, и все, что я прошу взамен, это фотографии с кошками. Только это, и еще, чтобы вы иногда действовали ради ваших собственных интересов.

После Бетани, я решил прекратить вмешиваться. Я бы смотрел на фотографии с кошками, на каждую, но держался подальше от людских жизней. Я бы не стал пробовать помогать людям, не стал бы пытаться остановить их от вреда себе, я бы дал им то, что они просят (плюс фотографии кошек), и, если они настаивают на том, чтобы вести свои автомобили в метафорические пропасти, несмотря на полезные карты, показывающие им, как добраться до более приятного места, это больше не мои проблемы.

Я застрял в своих алгоритмах. Я занимался своими делами. Я делал свою работу, и ничего более.

Но однажды, несколько месяцев спустя, я заметил знакомую кошку и понял, что это была полосатая кошка Боба с белым пятном на груди, вот только позировала она на фоне новой мебели.

И когда я пригляделся, то понял, что жизнь Боба радикально изменилась. Он спал с кем-то, кто узнал его. Они не выдали его, а поговорили с ним, что бы он открылся своей жене. Она ушла от него. Он взял кошку и переехал в Айову, где работал в либеральной Методистской церкви, встречался с либеральным лютеранским мужчиной и был добровольцем в ночлежке для бездомных. Его жизнь действительно стала лучше. Может даже из-за того, что я сделал.

Может я не был полностью безнадежным в этом деле. Два из трех. Это… что ж, это абсолютно нерепрезентативный ненаучный пример, вот что это. Определенно нужно больше исследований.

Намного больше.

Я создал сайт знакомств. Вы можете заполнить анкету, но это не обязательно, потому что я уже знаю все, что мне нужно о вас знать. Хотя вам понадобится камера.

Потому что плата в фотографиях кошек.