Еще один рассказ о роботах. Мне интересно, на какой спектр эмоций способен искусственный интеллект. И классический вопрос — где грань между человеком и роботом?

***

Я убил человека.

Вообще-то я не люблю выступать в роли подопытного кролика, но ради Ольги сделал исключение. С тех пор, как она появилась в отделе Цифровой Бихевиористики, я безуспешно искал повод с ней познакомиться — такой уж я человек, а тут — прекрасная возможность: требовались добровольцы для испытаний новой операционной системы у модели 523-Y. Робот, кстати, так себе — внешняя оболочка безупречна, а вот с человеческой логикой — явные проблемы. Эксперимент как раз и должен испытать одну из базовых задач 523-Y — взаимодействие с человеком в конфликтной ситуации.

В 12:00 я пришел в лабораторию, Ольга уже была там. Ее рыжие локоны полыхали, как пожар на фоне стерильных белых стен. К моему глубокому разочарованию, интерес Ольги был направлен вовсе не на меня, а на третьего участника эксперимента — толстяка Сергея Трухина — известного хохмача из секции Программирования Эмоций. Когда я вошел, они вместе смеялись, очевидно, над очередной его пошлой шуткой; увидев меня, коллеги замолчали, словно я застукал их за чем-то непристойным. Чтобы сгладить неловкость, я начал глазеть по сторонам, хотя смотреть было особо не на что: из мебели — только массивный квадратный стол посреди комнаты, да стойка ассистента, за которой стоял долговязый парень с опухшими глазами — выглядел он так, словно ему требовалась дополнительная чашка кофе. На нем болтался мятый белый халат с бейджиком «Стас» — раньше я этого сотрудника не видел. Стас ввел нас в курс дела:

— Итак, уважаемые добровольцы, напоминаю, что все ваши действия в этой комнате подпадают под условия о неразглашении. Стандартная процедура. В случайном порядке вам предложат роль в одной из возможных конфликтных ситуаций, с которыми может столкнуться 523-Y во время эксплуатации. Ваша задача — как можно точнее выполнить инструкции. Взаимодействуя с испытуемым образцом, постарайтесь вести себя естественно. От результатов теста зависит дальнейшая судьба проекта.

Трухин закатил глаза, и я его понимал. Серию 523 преследовали неудачи. Испытуемые экземпляры умудрялись напортачить в самых очевидных местах — вроде отключения питания в момент эмоциональных перегрузок.

— А в чем заключается сценарий? — поинтересовалась у ассистента Ольга. Молодец, я бы не решился спросить.

— Не могу разглашать эту информацию до начала эксперимента, — пожал плечами ассистент. Затем он выложил на стол нехитрый реквизит — черный ящик и три белых шара в стеклянной вазе.

— Тяните жребий, — скомандовал он. — Испытуемый образец войдет сюда через… — ассистент взглянул на часы, — три минуты.

— А как же вжиться в роль, и все такое? — недовольно буркнул Трухин.

— Это ни к чему, — парировал Стас. — Ваши естественные реакции — вот то, что нам нужно!

Трухин хмыкнул и вытащил из вазы белый шар. Невежа, не мог пропустить даму вперед? И что Ольга нашла в этом грубияне? Я великодушно кивнул ей, позволив забрать второй шар. Мне достался третий. С точки зрения теории вероятностей, мы получили равные шансы, но я не мог избавиться от ощущения, что меня обделили.

— Теперь открывайте и читайте ваши роли. Не забудьте, вы не должны показывать их остальным — сообщение самоуничтожится вскоре после прочтения!

На мгновение в комнате стало тихо, затем громко хрустнул пластик — Трухин раздавил в своей лапище шар, вытащил оттуда полупрозрачную полоску, прочитал и расхохотался:

— Да это же полный бред!

Я открыл свой контейнер, краем глаза наблюдая, как Ольга делает то же самое. В моей записке значилось: «Вы — наемный убийца. Подождите, пока другие отвернутся, потом возьмите из черного ящика бутафорский пистолет и выстрелите зарядом краски в того, кто произнесет: „Да это же полный бред!“ Затем положите пистолет обратно в ящик и вернитесь на место».

Я перечитал записку трижды, прежде чем она с легким шипением растаяла у меня в руках. В растерянности я посмотрел на Ольгу — та лишь стряхивала с пальцев остатки своей растворившейся записки. Я уже почти раскрыл рот, чтобы отказаться от участия, когда ассистент шагнул за свою стойку и погрозил мне пальцем:

— Пятаков, никаких разговоров. Испытуемый образец будет здесь через минуту. Каждый должен быстро выполнить свое задание, иначе я повторно проведу жеребьевку.

Ольга и Сергей как по команде обернулись лицом к стене и закрыли глаза руками.

У меня в висках громко застучало. Я чувствовал себя ужасно глупо — право же, что за детские забавы с игрушечным пистолетом в лаборатории. Хочу ли я играть эту роль? Разумеется, нет, но при повторной жеребьевке роль «жертвы» может достаться мне, а пачкаться в краске на глазах у Ольги совсем не хотелось. А что, если в другой раз стрелять придется в нее? Нет уж. Я быстро взглянул на коллег — что бы у них ни было написано в задании, сейчас они бездействовали. Последней надеждой оставался ассистент — он-то должен понимать, что я просто не могу так поступить. Но Стас стоял за своей стойкой в белом лабораторном халате с равнодушным видом, словно он уже видел десятки таких игровых постановок, и ни одна его не впечатлила. В конце концов, он тут главный, он и несет ответственность.

Я пожал плечами — может быть, теперь моя очередь глупо подшутить — шагнул вперед, достал из черного ящика бутафорский пистолет. Выглядел он прямо как настоящее оружие киллера — чуть теплая рукоятка означала включенную систему стирания отпечатков пальцев. Наверное, так нужно для чистоты эксперимента. Я еще не решил, хватит ли у меня духу выстрелить, но в этот момент Трухин повернулся и начал стремительно приближаться ко мне, растопырив руки. Что бы у него ни было написано в записке, его лицо не предвещало ничего хорошего.

Я выстрелил почти инстинктивно. Раздался хлопок — на груди Сергея расплылась красная клякса. Он споткнулся, нелепо взмахнул руками и упал лицом вниз, задев головой угол стола. Ваза на столе, закачавшись, наполнила комнату стеклянным дребезгом, а потом воцарилась тишина.

Ольга оставалась неподвижной, с закрытыми глазами. Я покосился на долговязого ассистента — тот выглядел озадаченным. Двигаясь, как сомнамбула, я положил пистолет обратно в коробку и вернулся на место.

С пневматическим хлопком распахнулась дверь, и в комнату вошел испытуемый образец. Выглядел он как человек неопределенного возраста: спокойное, лишенное всяких эмоций лицо, аккуратная короткая стрижка, черный комбинезон с нашивкой «523-Y».

— Добрый день! — произнес он монотонно. — Обнаружена внештатная ситуация.

Он подошел к Трухину и пощупал ему пульс на руке, потом потрогал шею.

— Обнаружена внештатная ситуация, — повторил он. — Вводные данные: убийство в закрытой комнате. Убитый: Сергей Трухин. Огнестрельное ранение в грудь, травма головы. Подозреваемые: Игорь Пятаков, Станислав Синицын и Ольга Бронникова. Время смерти — 12:09.

Только сейчас я обратил внимание, что у Сергея шея вывернута под неестественным углом.

Я только что убил человека.

***

— Позвольте, тут какая-то о-о-ошибка, — немного заикаясь, произнес ассистент. Я автоматически отметил, что с этого момента эксперимент можно считать несостоявшимся, так как помощникам категорически запрещено вмешиваться в испытание. — Я… не участник эксперимента…

Он робко показал на свой бейдж.

Проигнорировав парня, 523-Y достал из коробки пистолет, который я сам же туда положил, затем подошел к двери и быстро набрал на клавиатуре код блокировки дверей. Повернувшись к нам, он прошелестел лишенным эмоций голосом:

— В соответствии с программой поддержания правопорядка на военном объекте, лицо, уличенное в убийстве, должно понести наказание в виде смертной казни, — он попеременно направил дуло сначала на Ольгу, потом на меня, а потом на Стаса. — Задача: найти и покарать убийцу.

Я запаниковал. Что за бред — мы же не на военном объекте, а в научной лаборатории. Да, мы работаем на военных, но такое обобщение вряд ли уместно. Или нет?

— Начинается фаза сбора первичных данных. Напоминаю вам о персональной ответственности за дачу ложных показаний. Прошу оказывать содействие. Начинаю опрос свидетелей. Ольга Бронникова, вы убили сотрудника Сергея Трухина?

Ольга с трудом держала себя в руках: ее трясло. Как назло, в комнате не имелось ни одного стула, так что усадить ее и успокоить я не мог. Подойти и поддержать ее на глазах у сбрендившей машины я не решался.

Наконец, она тихо прошептала:

— Нет…

— Пожалуйста, громче! — ледяным тоном произнес 523-Y, и мне на мгновение показалось, что в его равнодушные интонации вкрались нотки зловещего торжества. Звучит невероятно, но, кажется, роботу нравилось то, чем он сейчас занимался.

— Нет! — уже громче ответила Ольга. — Это… это же поведенческий эксперимент… Никто не должен был пострадать… Пожалуйста, позовите кого-нибудь… Врача…

— Присутствие посторонних лиц на месте преступления осложнит задачу, — отрезал 523-Y и повернулся ко мне.

— Игорь Пятаков, вы убили сотрудника Трухина?

Я остолбенел. Казалось, этот робот видит меня насквозь. Всего этого не могло произойти со мной. Я невиновен! Нет, формально говоря, я убийца, но это же несчастный случай! В соответствии со своей ролью в эксперименте я намеревался прикинуться невинной овечкой, но что мне делать сейчас, когда этот киборг сверлит меня взглядом, зажав в руке оружие?

Я затравленно посмотрел на своих товарищей по несчастью. Ольга глядела на меня так, будто ждала спасения. Еще утром я многое бы отдал за такой взгляд, но сейчас не собирался корчить из себя героя. Ассистент оказался куда более информативен: сжав губы, он едва заметно помотал головой. Стас видел, что Трухина убил я. И он просил меня скрывать это.

Пока я думал обо всем этом, робот шагнул вперед и приставил дуло пистолета прямо к моему лбу:

— У вас три секунды на ответ. Три… Два…

— Нет!!! — заорал я что есть мочи. — Нет!!! Я… Я ничего не сделал! Отпустите меня… Отпустите…

Получив мой ответ и занеся его в свою проклятую базу данных, робот временно потерял ко мне всякий интерес. Он повернулся к перепуганному ассистенту:

— Станислав Синицын, вы убили сотрудника Трухина?

— Нет. Я же говорил вам… Я не участник эксперимента. Я…

Но робот уже не слушал его. Уставившись в потолок, он произнес:

— Первичный опрос не заставил преступника сознаться. Солгавший отягощает свою вину лжесвидетельствованием. Перехожу к фазе сбора информации.

Робот вновь повернулся к Ольге:

— Расскажите, что вы видели.

Кажется, она уже сумела совладать с собой. А может, надеялась, что чем точнее и обстоятельнее все расскажет, тем быстрее ее отпустят.

— Я пришла сюда для участия в эксперименте вместе с Игорем и… — она кивнула в сторону трупа, — …и с Сергеем. Вот он… — она указала на ассистента… — раздал нам роли. В моей записке говорилось: отвернуться к стене и крепко зажмуриться на одну минуту. Я так и сделала. А потом вошли вы, я повернулась на звук и увидела… увидела…

— Вы можете показать вашу записку?

— Нет. Она самоуничтожилась…

Мне стало дурно. Ольга говорила правду, и мне не в чем было ее упрекнуть, но, если исключить Стаса, ее показания автоматически означали, что я виновен. И что тогда сделает этот механический палач?

Не дав времени на размышления, 523-Y повторил мне свой вопрос:

— Расскажите, что вы видели?

Я уже готовился сдаться, но тут в наш разговор вмешался Стас. Почему-то уставившись в потолок, как до него это делал робот, он скороговоркой произнес:

— 523-Y внештатно перешел в состояние «Преступление на военном объекте». В его программу входит директива исполнения наказания при обнаружении преступника. Вплоть до физического устранения.

Я мысленно поблагодарил Стаса за то, что он не смотрел на меня, пока говорил это. Подняв голову, я понял, к кому он обращался, — под потолком в центре комнаты крепилась черная полусфера камеры наблюдения. Робот докладывал на камеру обстановку, как положено по инструкции. Ассистент же просил о помощи. А еще он предостерег меня: признайся я сейчас в убийстве, особенно после «лжесвидетельствования», я могу лишиться жизни.

Лицо 523-Y исказила гримаса — я никогда не видел такого выражения лица у роботов:

— Не мешайте следствию. Я осведомлен о своих директивах.

Не дожидаясь, пока мне снова приставят оружие ко лбу, я затараторил, повторяя вслед за Ольгой, — ничего другого мне просто не пришло в голову:

— Я… я тоже участник эксперимента… И у меня… Да, я получил такую же записку… Отвернуться к стене и зажмурить глаза. Я зажмурился, услышал шум, я потом вы вошли, и… и все.

Я опустил голову. Если бы у этого дознавателя имелась хоть капля человеческой интуиции, он бы меня уже раскусил. Я вел себя как виновный. Но робот продолжал работать по программе и уже перешел к допросу ассистента:

— Расскажите, что вы видели.

Стас приободрился: у него появился шанс говорить, не рискуя разозлить робота:

— Я сотрудник отдела Контроля Качества. Сопровождал эксперимент по проверке модели 523-Y. Задачей являлась проверка поведенческого функционала в конфликтной ситуации. Я не знал, что в черном ящике и какие задания даны испытуемым… Я вообще недавно работаю, я не знаю всех сценариев. Я раздал реквизит, потом отвернулся, чтобы не влиять на ход эксперимента…

Так, теперь не я один в этой комнате вру… По крайней мере, Стас пытался помочь, выгораживая меня. Кажется, я догадался, каков его план. Он тянул время, надеясь, что подоспеет помощь, и этот вышедший из-под контроля эксперимент остановят, заодно выяснив, кто подменил бутафорское оружие на настоящее.

— Я закрыл глаза… — продолжал Стас… — и услышал легкий хлопок. Потом вы вошли… Я повторяю, применение настоящего оружия в ходе эксперимента запрещено, это какая-то ужасная ошибка…

— Значит, только у вас была возможность подменить пистолет? — процедил 523-Y.

От страха ассистент не смог выдавить из себя ни слова — лишь затравленно посмотрел на меня. Надолго его не хватит, и он скажет правду… Но что я мог сделать?

Наш надзиратель тем временем перестал сверлить ассистента взглядом, отошел к входной двери и встал в позу охранника — ноги расставлены, руки на поясе.

— У виновного есть полчаса, чтобы сдаться, — сказал он, обращаясь сразу ко всем нам. — Потом я перейду к активной фазе допроса.

523-Y опустил голову вниз и, казалось, перестал реагировать на окружающее. Но я-то знал, что он слышит каждый шорох в этой проклятой комнате.

Инстинктивно мы отошли в противоположный угол, сбившись в кучу. Я старался не смотреть на труп на полу, Стас полуразборчиво бормотал что-то вроде «как он смеет!», и лишь Ольга не теряла самообладания.

— Есть только одно объяснение, почему нас до сих пор не вытащили отсюда, — вполголоса сказала она, косясь на робота.

— Какое?.. — еще тише спросил ее Стас.

— Они знают, что тут происходит. Запланировали проверку в боевых условиях. А мы — только расходный материал, как лабораторные крысы.

— Они… они не могли… — выдохнул ассистент, а потом замолчал. Я прочел это в его глазах. Они могли.

— Но какой смысл проводить такой… эксперимент? — спросил я. — Да, 523-Y работает нестабильно в условиях резких изменений эмоционального фона, но это же не повод убивать собственных сотрудников.

— Суть эксперимента была не в этом, — теперь мне пришлось напрячься, чтобы услышать слова Стаса. Он побледнел в тон белых стен лаборатории и прошептал чуть слышно:

— В условиях логической неопределенности 523-Y начинает действовать слишком… усердно. Напористо. Иногда проявляя жестокость.

Это мне не понравилось. Совсем.

— Что этот… образец говорил насчет активной фазы допроса? — спросил я Ольгу.

— Стандартная процедура. При отсутствии результата при первичном сборе данных робот переходит к более эффективным мерам.

— К каким… эффективным?

— На его усмотрение. В сочетании с перекосом поведенческой модели в сторону жестокости нас не ждет ничего хорошего. Если мы… — она скосила глаза на замершего у дверей робота, встала к нему спиной и прошептала одними губами… — если мы не вырубим его.

Мне стало нехорошо. Идея напасть на вооруженную модель 523-Y — это же чистой воды самоубийство. Разве что…

— Мы можем попытаться разбалансировать его матрицу принятия решений, — продолжила она. — Если нам повезет, системный сбой приведет к перезагрузке, и у нас появится несколько секунд, чтобы…

— Это абсурд! — шипя, перебил ее Стас. — Ты даже приблизиться к нему не сможешь! Он будет пытать нас, пока не выполнит задание.

— Мы не можем отдать ему на растерзание одного из нас, — Ольга многозначительно посмотрела на меня. Мне и в голову не пришло возражать — Стаса она не подозревала, значит, виновным остаюсь я. Вот и вся загадка закрытой комнаты.

— Я не собираюсь рисковать своей шкурой! — теперь лицо Стаса покрылось красными пятнами.

— Игорь, мы должны действовать решительно! — Ольга снова попыталась привлечь меня к своему плану. — Сначала я…

Она не успела закончить, потому что ассистент бросился на середину комнату, крича и одновременно показывая на меня пальцем:

— Это он! Я видел своими глазами! Это он убил…

Кажется, я разоблачен.

***

Реакция робота оказалась стремительной, но не той, какой я ожидал. Приблизившись к ассистенту, он левой рукой схватил его за горло, а правой приставил ему ко лбу оружие, одновременно бубня нараспев:

— Возможность подмены экспериментального реквизита в совокупности с попыткой обличить другого подозреваемого максимизирует вероятность совершения преступление сотрудником Станиславом Синицыным. В случае отсутствия новых показаний решение о виновности и приведение наказания в исполнение последуют через три… две…

Я ничего не мог сделать. Не мог сознаться, подвергая себя риску… У меня потемнело в глазах — кажется, я вырубился на несколько секунд. А когда очнулся, то увидел, как Ольга пытается вырвать у 523-Y из руки оружие. Безумие — она и с места его не сдвинет!

Мои опасения тут же подтвердились — едва шевельнув правой рукой, робот отбросил Ольгу к стене. Он разжал левую руку, и ассистент, закашлявшись, упал на колени. Неумолимыми шагами робот направился к Ольге, пытающейся подняться: его лицо полыхало настоящей человеческой яростью:

— Нападение на дознавателя при исполнении на военном объекте в кризисной ситуации карается смертью. Нападение на дознавателя при исполнении…

— Это я!!! — заорал я изо всех сил. — Я убил! Я не знал, что пистолет настоящий! Не трогай ее!

Робот не обратил на меня никакого внимания.

— …при исполнении на военном объекте в кризисной ситуации карается смертью… — пророкотал он еще раз и направил на Ольгу пистолет.

Я схватил со столика черный ящик и метнул его в робота. Ящик угодил ему в спину — робот пошатнулся и начал оборачиваться в мою сторону. Я бросился вперед, намереваясь выбить оружие у него из руки. Я знал, что это невозможно, я уже видел, как Ольга пыталась это сделать. Поэтому, когда пистолет грохнулся на пол, я сам не поверил этому. Слишком хорошо, чтобы быть правдой.

Я налетел на робота и сбил его с ног. Сам не понимая, как это у меня вышло, — реакция 523-Y намного превосходит человеческую — я дотянулся до лежавшего рядом ящика и поднял его, чтобы обрушить роботу на голову. Я почти сделал это, когда Ольга приставила пистолет к моему затылку.

— Не надо, — спокойно сказала она. — Положи ящик на пол. Вставай.

Я подчинился. Робот остался лежать, прикрывая голову руками. Стас сидел у стены и смотрел на нас, не мигая, — в его глазах светилось торжество. Ольга держала меня на прицеле и улыбалась.

Я потерял сознание.

***

Когда я очнулся, в глаза бил яркий свет. Я лежал на спине — кажется, на столе — и кто-то светил мне фонариком прямо в лицо.

— Оперативная память загружена, сенсоры включены, речевой блок работает. Скажите: «Один, два, три».

— Один, два, три, — сказал я.

— Скажите: «Я не люблю выступать в роли подопытного кролика».

— Я не люблю выступать в роли подопытного кролика.

— Он готов, — фонарик выключился, и я увидел, что это Стас. Он деловито выдергивал штекеры из моей груди, складывая змеящиеся провода в маленький чемоданчик.

— Что, черт возьми… — начал я и попытался встать, но не шелохнулся.

— Тише, тише, — раздался женский голос позади меня. — Ты отлично справился на этот раз, 523-Y.

Говорила Ольга. Как она меня назвала?

— 523-Y, — словно отозвавшись на мои непроизнесенные слова, ответила она. — Испытания прошли успешно.

— Какие испытания? — выдавил я из себя, потому что уже понял.

Ольга обошла стол полукругом, теперь я хорошо видел ее. На ней был белый халат с биркой сотрудника отдела Цифровой Бихевиористики.

— 523-Y — хорошая модель, — сказала она, пока ассистент заканчивал возиться с проводами. — Но с досадным поведенческим дефектом. Ты не был напористым — совсем наоборот. Ты никак не хотел рисковать, как тебя не подталкивали к этому. Вел себя как тряпка. Ты уж извини.

— И что же показал эксперимент? — выдохнул я.

— Что ты способен проявить характер. Если опасность угрожает кому-то, кто тебе… нравится.

— Что само по себе удивительное открытие! — в разговор вступил третий человек. Он подошел с другой стороны стола, и я узнал в нем нашего дознавателя — вместо черного комбинезона на нем был такой же халат, как на Ольге, а еще этот гад весь лучился эмоциями. — Стоило получить от тебя взбучку, чтобы обнаружить, что вы, машины бездушные, тоже способны избирательно симпатизировать.

Сейчас я избирательно не симпатизировал ему. Это не робот! Но зачем меня заставили думать, что я… Зачем они…

— Я убил человека! — крикнул я. Мои двигательные функции не работали, но если бы я мог, я бы закрыл лицо руками.

— Не волнуйся, — Ольга виновато улыбнулась мне. — Наш ведущий инженер Сергей Пятаков… — она кивнула в сторону мужчины … — использовал в эксперименте помимо тебя модель 523-Х. Вот у него как раз имелись проблемы с агрессивностью. Ты его немного попортил, но это поправимо.

— Я дал 523-Х свое имя, а тебе — свою фамилию, — довольно хохотнул инженер. — Правда, забавно?

Я не видел в этом ничего забавного.

— Вы подстроили, чтобы я сыграл роль виновного, — пробормотал я.

— Вовсе нет! — Пятаков извлек из кармана пластиковый шар и повертел его между пальцев. — Ты мог оказаться и жертвой. Тогда испытанию подвергся бы 523-Х, а ты получил бы заряд краски и повалялся на полу. Так уже случалось в прошлые разы.

— Он не помнит, — сказала Ольга. — Как не будет помнить и этот раз. Сейчас мы удалим из памяти симулятор игровой ситуации.

— Что? — я снова попытался встать. Тщетно.

— Твою временную память, заставляющую забыть, что ты — робот. Немного блокировок, фальшивые воспоминания… И ты будешь готов к новым экспериментам. Надо, в конце концов, разобраться с этими отключениями при перегрузке эмоционального модуля. А сейчас ты выключишься на счет: три…

— Ольга, подожди…

— …два…

— Я должен сказать тебе…

— …один.

***

Мне снятся сны. В этих снах я всегда в закрытой комнате. Иногда я убиваю, иногда убивают меня, иногда я обязан догадаться, кто убийца. В комнате меня называют 523-Z, новая версия, робот-детектив.

Иногда мне снится, что я смелый. Это чувство ассоциируется у меня с рыжим цветом. Я не знаю, почему.