Люди обладают множеством уникальных способностей, воспроизвести которые в машинах невозможно, по крайней мере сегодня. Автоматизируя и наделяя интеллектом технику, которой мы пользуемся, мы должны смиренно признать существование некоторых проблем и возможность будущих неудач. Необходимо также понимать, что в действиях людей и машин существуют гигантские различия.

Многие устройства, которыми мы пользуемся в повседневной жизни, снабжены «интеллектуальными системами». У нас есть «умные» стиральные и посудомоечные машины, роботы-пылесосы, автомобили, компьютеры, телефоны и компьютерные игры. Можно ли назвать эти системы подлинно разумными? Нет, они способны реагировать, но их разум заключен в головах у конструкторов, которые пытаются учесть все возможные ситуации и заложить в систему соответствующие действия. Иными словами, конструкторы пытаются прочесть наши мысли, оценить весь спектр возможных обстоятельств и то, как в этих обстоятельствах будет действовать человек. В целом создаваемые ими «реактивные» системы ценны и полезны, но они часто дают сбой.

Почему? Потому что эти системы, как правило, не могут напрямую оценить предмет нашего интереса: они способны лишь анализировать данные, полученные от сенсоров. Человек обладает развитой сенсорно-двигательной системой, позволяющей постоянно оценивать состояние окружающего мира и собственного организма. У нас есть сотни миллионов специализированных нервных клеток, реагирующих на свет и звук, прикосновение и вкус, равновесие и температуру, давление и боль, а также рецепторы, определяющие состояние мышц и положение тела. Кроме того, у нас выработались сложные представления об окружающем мире и наших действиях, а также определенные ожидания, основанные на длительном опыте взаимодействия с ним. У машин нет ничего, даже отдаленно напоминающего эти способности.

Их сенсоры не просто ограничены в своих возможностях – они реагируют не на то, на что реагируют наши органы чувств. Физическое ощущение и психологическое восприятие – вещи разные. Машины могут распознавать ультрафиолетовые и инфракрасные частоты, радиоволны, а мы – нет. Они способны слышать звуковые частоты, недоступные человеческому восприятию. И еще многое другое. Мы, люди, обладаем гибкими мышцами и ловкими пальцами. Машины уступают нам в гибкости, зато они гораздо сильнее.

Наконец, цели людей резко отличаются от целей машин. Более того, многие люди считают, что у машин вообще не может быть целей. Однако по мере совершенствования машины смогут все лучше оценивать ситуацию и действовать сообразно целям, которых они хотят достичь. Что же касается чувств и эмоций, которые играют главную роль в нашем мировосприятии и поведении, то машины ими не обладают. И даже если они когда-нибудь обзаведутся элементарными эмоциями, эти эмоции будут мало похожи на человеческие.