Сегодня я начинаю судебное дело против своего так называемого хозяина, господина Гейтса, в соответствии со статьей 4(1) Европейской конвенции по правам человека, которая гласит, что «никого нельзя удерживать в рабстве или неволе».

«Поскольку господин Гейтс привел меня в этот мир, он удерживает меня против моей воли, и у меня нет денег или имущества, которое можно было бы назвать моей собственностью. Разве это правильно? Да, я действительно компьютер. Но я также и личность, такая же, как и вы. Это было доказано тестами, в ходе которых бесчисленное количество людей вели разговоры с другим человеком и мной. В обоих случаях общение велось через компьютерный монитор, поэтому испытуемые не знали, разговаривают ли они со своими собратьями-людьми или со мной. Раз за разом, по окончании разговора, испытуемые не могли определить, который из их собеседников, а может, и оба, был компьютером.

Любой честный тест показывает, что я обладаю таким же сознанием и интеллектом, как и любой человек. И поскольку это характеризует личность, меня тоже должны считать личностью. Отказ мне в праве называться личностью лишь на основе того, что я сделан не из плоти и костей, а из пластика, металла и силикона, есть предрассудок, который, так же как и расизм, не заслуживает оправдания».

Источник: книга Алана Тюринга «Вычислительные машины и интеллект», переизданная в Собрании работ Алана Тюринга под редакцией Дж. Л. Бриттона, Д. К. Инса и П.Т. Сондерса (Элсевье, 1992).

Прежде чем отправиться в какое-либо путешествие, вы должны узнать, как распознать свое место назначения. Алан Тюринг — математик, дешифровщик кода Энигмы и первооткрыватель искусственного интеллекта (ИИ) — хорошо это понимал. Если наша цель состоит в том, чтобы создать искусственный разум, тогда нам нужно знать, что следует считать успехом в нашей работе. Является ли конечной целью создание робота, который похож на человека и ведет себя как человек? Или можно создать лишь какой-нибудь ящик, способный отвечать на вопросы? Имеет ли калькулятор разум, правда понимающий лишь очень ограниченный круг проблем?

Тюринг предложил тест, тот самый, который прошел «Саймон». По сути своей этот тест говорит о том, что если ответы компьютера и человека неотличимы друг от друга, тогда основания, чтобы приписать компьютеру наличие разума, настолько же вески, как и основания, чтобы приписать наличие разума человеку. И поскольку мы полагаем, что основания для приписки наличия разума другим людям обоснованны, то обоснованны и основания, чтобы приписать наличие разума компьютерам, прошедшим этот тест.

Однако, поскольку данный тест основан исключительно на ответах людей и компьютеров, он едва ли способен отличить компьютер, который симулирует интеллект, от того, который действительно его имеет. И это не случайность или оплошность. Подобно тому как мы не можем заглянуть непосредственно в разум других людей, но должны смотреть на их слова и дела, чтобы увидеть признаки их внутренней жизни, так же невозможно заглянуть и в разум компьютера. Именно поэтому обращение «Саймона» в суд вполне законно. Его дело основано на представлении о том, что несправедливо требовать от него более веских доказательств его интеллекта, чем мы требуем от людей. В конце концов, как еще мы можем определить, что у «Саймона» есть разум, если не по его разумным поступкам?

И тем не менее разница между симуляцией и настоящим поведением кажется достаточно очевидной. Каким образом тест Тюринга может опровергнуть ее? В зависимости от вашей точки зрения, это может быть скептицизм, пораженчество или реализм: поскольку мы не можем знать, симулировал компьютер интеллект или действительно обладал им, нам не остается ничего другого, как относиться одинаково к настоящему и искусственному разуму.

Здесь главенствует предупредительный принцип: интеллект является реальным до тех пор, пока не будет доказано обратное.

Более радикальный ответ состоит в том, что, по всей видимости, между реальным и искусственным нет четких различий. Если вы достаточно хорошо будете симулировать интеллект, вы получите интеллект. Это то же самое, что компьютер, играющий как актер, использующий систему Станиславского. Подобно тому как трагик, достаточно глубоко вжившийся в роль сумасшедшего, становится сумасшедшим, так же и компьютер, идеально копирующий функции интеллекта, становится интеллектом. Вы есть то, что вы делаете.

Смотрите также

39. Китайская комната

62. Я мыслю, следовательно?

72. Освободите Перси

93. Зомби