Итак, после многовековых блужданий в тумане математикам как будто бы удалось к началу XX в. придать своей науке ту идеальную структуру, которая была декларирована Аристотелем и, казалось, осуществлена Евклидом в его «Началах». Математики наконец-то полностью осознали необходимость неопределяемых понятий; определения были очищены от неясных или вызывавших какие-либо возражения терминов; некоторые области математики были построены на строгой аксиоматической основе; на смену умозаключениям, опиравшимся на интуитивные соображения или эмпирические данные, пришли надежные, строгие, дедуктивные доказательства. Даже законы логики были расширены настолько, что охватывали теперь те типы рассуждений, которые ранее математики использовали неформально и порой неявно, хотя, как показывал опыт, эти рассуждения всегда приводили к правильным результатам. Как уже говорилось, в начале XX в. у математиков были поводы торжествовать. Но пока они праздновали свои победы, уже назревали события, которые в дальнейшем лишили математиков покоя в гораздо большей степени, чем создание неевклидовой геометрии и кватернионов в первой половине XIX в. По меткому замечанию Фреге, «едва здание было достроено, как фундамент рухнул».

Случившееся нельзя было считать полной неожиданностью: еще Гильберт обратил внимание математиков на то, что некоторые проблемы в основаниях математики оставались нерешенными (гл. VIII). Самой важной из этих проблем, по мнению Гильберта, была проблема установления непротиворечивости тех или иных аксиоматизируемых разделов математики. Гильберт отчетливо понимал, что аксиоматический метод базируется на исходном списке неопределяемых понятий, а также аксиом, которым эти понятия должны удовлетворять. Интуитивно смысл всех фигурирующих в математической теории понятий и аксиом был вполне ясен. Такие математические понятия, как точка, прямая и плоскость, имеют вполне конкретные физические аналоги, а аксиомы евклидовой геометрии содержат некоторые физически ясные утверждения, касающиеся этих понятий. Тем не менее, как подчеркивал Гильберт, абстрактная, чисто логическая схема евклидовой геометрии не требует, чтобы понятия точки, прямой и плоскости были привязаны к какой-то одной, например «физической», интерпретации. Что же касается аксиом, то их формулируют, вкладывая в них как можно меньше, с тем чтобы извлечь из них возможно больше. И хотя аксиомы принято формулировать так, чтобы их физический смысл не вызывал сомнений, тем не менее существует опасность, что сформулированные даже самым тщательным образом аксиомы могут оказаться противоречивыми, т.е. привести к противоречию. Паш, Пеано и Фреге сознавали эту опасность, и в своем докладе на II Международном математическом конгрессе 1900 г. Гильберт также обратил внимание математиков на это обстоятельство.

Слабости абстрактной формулировки понятий, отношений и фактов, заимствованных из физической реальности, можно проиллюстрировать на таком примере, конечно весьма грубо отражающем суть дела. Представим себе, что было совершено какое-то преступление (многие, возможно, согласились бы с тем, что математика — это преступление). Следователь, которому поручено раскрыть преступление, располагает неопределяемыми понятиями: преступник, время совершения преступления и т.д. Все обнаруживаемые в ходе следствия факты следователь скрупулезно записывает. Это его аксиомы. Затем следователь начинает делать логические выводы в надежде, что это позволит ему выдвинуть какие-то версии. Весьма вероятно, что его выводы, хотя они и основаны на правдоподобных предположениях относительно происходивших событий, окажутся противоречивыми, так как исходные предположения либо не соответствуют подлинным событиям, либо недостаточно точно их отражают. В реальной же (физической) ситуации никаких противоречий нет и быть не может. Было совершено преступление, был преступник. Но логические выводы могут привести следователя, скажем, к заключению, что преступник одновременно и низкого роста (около 1,5 м), как следует из анализа следов преступления, и высокого роста (около 1,8 м), как показывает кто-то из свидетелей.

Вряд ли математики сочли бы ключевой проблемой доказательство непротиворечивости нескольких аксиоматических структур, если бы не дальнейшее развитие событий. К началу XX в. математики отчетливо сознавали, что в вопросах непротиворечивости они не могут полагаться на «физическую реализуемость» математики. Ранее, когда евклидова геометрия считалась геометрией реального физического пространства, мысль о том, что непрерывная дедуктивная цепочка теорем может когда-нибудь привести к противоречию, казалась дикой. Но к началу XX в. стало ясно, что евклидова геометрия представляет собой лишь логическую структуру, возведенную на фундаменте из примерно двадцати аксиом, не данных нам богом или природой, а сформулированных человеком. В такой системе вполне могли быть и противоречащие друг другу теоремы. Подобное открытие обесценивало многое из того, что было достигнуто ранее: достаточно было где-нибудь оказаться двум взаимно исключающим теоремам, как их могли использовать для доказательства новых противоречий и полученные в таком случае новые теоремы не имели бы смысла. Гильберт отверг столь страшную возможность, доказав, что евклидова геометрия непротиворечива, если непротиворечива логическая структура арифметики, т.е. система вещественных чисел. Предложенное Гильбертом доказательство в тот период еще не вызывалось насущной необходимостью и потому не привлекло особого внимания математиков (гл. VIII).

Но к всеобщему ужасу в самом начале XX в. противоречия были обнаружены в теории, лежащей в основе наших представлений о числе и далеко простирающейся за пределы арифметики. К 1904 г. выдающийся математик Альфред Принсхейм (1850-1914) имел все основания утверждать, что истина, поиском которой занимается математика, — это не больше и не меньше как непротиворечивость. И когда в работе 1918 г. Гильберт вновь подчеркнул важность проблемы непротиворечивости, у него были теперь для этого гораздо более веские доводы, чем в 1900 г.

Новой теорией, которая привела к противоречиям и открыла многим глаза на противоречия, существовавшие в более старых областях математики, была теория бесконечных множеств. Наведение математической строгости в анализе привело к необходимости учитывать различие между сходящимися (т.е. имеющими конечную сумму) и расходящимися бесконечными рядами. Некоторые из таких рядов, например бесконечные ряды тригонометрических функций, названные рядами Фурье — в честь активно использовавшего их Жозефа Фурье, стали играть важную роль и при попытке строгого обоснования анализа породили немало проблем. К решению этих проблем и приступил Георг Кантор (1845-1918). Логика исследования привела его к рассмотрению теории числовых множеств, в частности к введению мощностей таких бесконечных множеств, как множество всех нечетных чисел, множество всех рациональных чисел (включающее в себя положительные и отрицательные целые числа, а также дроби) и множество всех вещественных чисел.

Кантор порвал с многовековой традицией уже тем, что рассматривал бесконечные множества как единые сущности, притом сущности, доступные человеческому разуму. Начиная с Аристотеля математики проводили различие между актуальной бесконечностью объектов и потенциальной бесконечностью. Чтобы пояснить эти понятия, рассмотрим возраст Вселенной. Если предположить, что Вселенная возникла в какой-то момент времени в далеком прошлом и будет существовать вечно, то ее возраст потенциально бесконечен: в любой момент времени возраст Вселенной конечен, но он продолжает возрастать и в конце концов превзойдет любое число лет. Множество (положительных) целых чисел также потенциально бесконечно: оборвав счет, например, на миллионе, мы всегда можем затем прибавить к нему 1, 2 и т.д. Но если Вселенная существовала в прошлом всегда, то ее возраст в любой момент времени актуально бесконечен. Аналогично множество целых чисел, рассматриваемое в «готовом виде» как существующая совокупность, актуально бесконечно.

Вопрос о том, следует ли считать бесконечные множества актуально или потенциально бесконечными, имеет длинную историю. Аристотель в своей «Физике» ([6]Относящийся к нашему времени выразительный пример подобного отношения к математике приводит в своей статье «Эйнштейн и физика второй половины XX века» [60] выдающийся современный физик, лауреат Нобелевской премии Ч. Янг (Ян Чжэиьнин). Он рассказывает, как, придя к своему старому учителю Чжень Шеншеню, ныне профессору Калифорнийского университета в Беркли и одному из крупнейших современных геометров, он выразил удивление тем, как быстро понадобились физикам идущие в значительной степени от Чженя так называемые связности на расслоениях, придуманные математиками вне всякой связи с физической реальностью. На это Чжень ответил ему: «Но ведь никак нельзя сказать, что это мы, математики, выдумали связности на расслоениях — ясно, что они существовали и до нас».
, т. 3, с. 59-221) утверждал: «Остается альтернатива, согласно которой бесконечное имеет потенциальное существование… Актуально бесконечное не существует». По мнению Аристотеля, актуальная бесконечность не нужна математике. Греки вообще считали бесконечность недопустимым понятием. Бесконечность — это нечто безграничное и неопределенное. Последующие дискуссии нередко лишь затемняли существо дела, так как математики говорили о бесконечности как о числе, не давая явного определения понятия бесконечности и не указывая свойства этого понятия. Так, Эйлер довольно легкомысленно утверждал в своей «Алгебре» (1770), что 1/0 — бесконечность, хотя и не счел нужным определить, что такое бесконечность, а лишь ввел для нее обозначение ∞. Без тени сомнения Эйлер утверждал также, что 2/0 вдвое больше, чем 1/0. Еще больше недоразумений возникало в тех случаях, когда речь шла об использовании символа ∞ для записи пределов при n, стремящемся к бесконечности (например, для записи того, что предел 1/n при n, стремящемся к ∞, равен 0). В подобных случаях символ ∞ означает лишь, что n неограниченно возрастает и может принимать сколь угодно большие (но конечные!) значения, при которых разность между 0 и 1/n становится сколь угодно малой. Необходимость в обращении к актуальной бесконечности при таких предельных переходах не возникает.

Большинство математиков (Галилей, Лейбниц, Коши, Гаусс и другие) отчетливо понимали различие между потенциально бесконечными и актуально бесконечными множествами и исключали актуально бесконечные множества из рассмотрения. Если им приходилось, например, говорить о множестве всех рациональных чисел, то они отказывались приписывать этому множеству число — его мощность. Декарт утверждал: «Бесконечность распознаваема, но не познаваема». Гаусс писал в 1831 г. Шумахеру: «В математике бесконечную величину никогда нельзя использовать как нечто окончательное; бесконечность — не более чем façon de parle [манера выражаться], означающая предел, к которому стремятся одни величины, когда другие бесконечно убывают».

Таким образом, введя актуально бесконечные множества, Кантор выступил против традиционных представлений о бесконечности, разделяемых великими математиками прошлого. Свою позицию Кантор пытался аргументировать ссылкой на то, что потенциальная бесконечность в действительности зависит от логически предшествующей ей актуальной бесконечности. Кантор указывал также на то, что десятичные разложения иррациональных чисел, например числа √2, представляют собой актуально бесконечные множества, поскольку любой конечный отрезок такого разложения дает лишь конечное приближение к иррациональному числу. Сознавая, сколь резко он расходится во взглядах со своими предшественниками, Кантор с горечью признался в 1883 г.: «Я оказался в своего рода оппозиции к общепринятым взглядам на математическую бесконечность и к нередко отстаиваемым суждениям о природе числа».

В 1873 г. Кантор не только занялся изучением бесконечных множеств как «готовых» (т.е. реально существующих) сущностей, но и поставил задачу классифицировать актуально бесконечные множества ([15]Аристотель, c его чисто умозрительным подходом к физическим задачам, склонен был считать, что тяжелое тело, брошенное под углом к земной поверхности, движется по «простейшим линиям», т.е. описывает отрезок прямой, переходящий затем в дугу окружности; ясно, что столь грубое приближение к реальности никак не могло быть достаточным для артиллерийской практики.
*, [53]Впоследствии Феликс Клейн рассмотрел еще одну простую неевклидову геометрию, родственную удвоенной эллиптической геометрии, но отличающуюся от нее тем, что здесь уже любые две прямые пересекаются в одной точке. Клейн назвал такую геометрию просто эллиптической. [Риман, который рассматривал строение геометрий лишь в «малом», в окрестности одной точки пространства, не ставил вопроса о глобальной структуре введенных им пространств; именно это и позволяет — как весьма часто делают — считать его создателем и эллиптической геометрии. — Ред. ]
). Введенные Кантором определения позволяли сравнивать два актуально бесконечных множества и устанавливать, содержат ли они одинаковое, «число элементов» или нет. Основная идея Кантора сводилась к установлению взаимно-однозначного соответствия между множествами. Так, 5 книгам и 5 шарам можно сопоставить одно и то же число 5 потому, что книги и шары можно разбить на пары, каждая из которых содержит по одной, и только одной книге, и по одному, и только одному, шару. Аналогичное разбиение на пары Кантор применил, устанавливая взаимно-однозначное соответствие между элементами бесконечных множеств. Например, взаимно-однозначное соответствие между положительными целыми числами и четными числами можно установить, объединив те и другие в пары:

1 2 3 4 5 …,

2 4 6 8 10 …

Каждому целому числу при этом соответствует ровно одно четное число (равное удвоенному целому), а каждому четному числу соответствует ровно одно целое число (равное половине четного). Следовательно, в каждом из двух бесконечных множеств — множестве целых чисел и множестве четных чисел — элементов столько же, сколько в другом множестве. Установленное соответствие (то, что все множество целых чисел можно поставить во взаимно-однозначное соответствие с частью этого множества) казалось неразумным предшественникам Кантора и заставляло их отвергать все попытки рассмотрения бесконечных множеств. Но это не испугало Кантора. С присущей ему проницательностью он понял, что бесконечные множества могут подчиняться новым законам, не применимым к конечным совокупностям или множествам, подобно тому как, например, кватернионы подчиняются законам, не применимым к вещественным числам. И Кантор определил бесконечное множество как такое множество, которое можно поставить во взаимно-однозначное соответствие со своим собственным (т.е. отличным от всего множества) подмножеством.

Идея взаимно-однозначного соответствия привела Кантора к неожиданному результату: он показал, что можно установить взаимно-однозначное соответствие между точками прямой и точками плоскости (и даже точками n-мерного пространства). По поводу этого результата он писал в 1877 г. своему другу Рихарду Дедекинду: «Я вижу это, но не могу в это поверить». Тем не менее Кантор поверил в правильность полученного им результата и, следуя принципу взаимно-однозначного соответствия, установил для бесконечных множеств отношение эквивалентности, или равенства («равномощности» двух множеств).

Кантор выяснил также, в каком смысле следует понимать, что одно бесконечное множество больше другого: если множество A можно поставить во взаимно-однозначное соответствие с частью или собственным подмножеством множества B, а множество B невозможно поставить во взаимно-однозначное соответствие с множеством A или собственным подмножеством множества A, то множество B по определению больше множества A. Это определение по существу обобщает на бесконечные множества то, что непосредственно очевидно в случае конечных множеств. Если у нас имеется 5 шаров и 7 книг, то между шарами и частью книг можно установить взаимно-однозначное соответствие, но невозможно установить взаимно-однозначное соответствие между всеми книгами и всеми шарами или частью шаров. Используя свои определения равенства и неравенства бесконечных множеств, Кантор сумел получить поистине удивительный результат: множество целых чисел равно («равномощно») множеству рациональных чисел (всех положительных и отрицательных целых чисел и дробей), но меньше множества всех вещественных (рациональных и иррациональных) чисел.

Подобно тому как количество элементов в конечных множествах мы обозначаем числами 5, 7, 10 и т.д., Кантор предложил ввести специальные символы n для обозначения количеств элементов в бесконечных множествах. Множество целых (или натуральных) чисел и множества, которые можно поставить во взаимно-однозначное соответствие с этим множеством, содержат одинаковое количество (или «число») элементов, которое Кантор обозначил символом N0 (алеф-нуль; алеф — первая буква алфавита на иврите). Так как, по доказанному, множество всех вещественных чисел больше множества целых чисел, Кантор обозначил количество элементов в множестве всех вещественных чисел новым символом — c.

Кантору удалось доказать, что для любого заданного множества всегда найдется множество, большее исходного. Так, множество всех подмножеств данного множества всегда больше первого множества. Не вдаваясь в подробности доказательства этой теоремы, продемонстрируем разумность этого результата на примере конечных множеств. Если множество состоит из 4 элементов, то из них можно составить 4 различных подмножества, содержащих по 1 элементу; 6 различных подмножеств, содержащих по 2 элемента; 4 различных подмножества, содержащих 3 элемента; наконец, 1 множество, содержащее 4 элемента. Если добавить сюда еще пустое множество, совсем не содержащее элементов, то общее число подмножеств окажется равным 16 = 24, что, разумеется, больше 4. В соответствии с результатом, имеющим место для конечных множеств, Кантор обозначил количество подмножеств (бесконечного!) множества, содержащего α элементов (где α — трансфинитное число), через 2α ; его результат гласил: 2 α > α . Рассматривая все возможные подмножества множества целых чисел, Кантор сумел показать, что 2N 0 = c, где c — «число» всех вещественных чисел.

Когда Кантор в 70-х годах XIX в. приступил к созданию теории бесконечных множеств и еще много лет спустя, эта теория находилась на периферии математической науки. Доказанные им теоремы о тригонометрических рядах не были столь уж фундаментальными. Но к началу XX в. канторовская теория множеств нашла широкое применение во многих областях математики. Кантор и Рихард Дедекинд понимали, сколь важна теория множеств для обоснования теории целых чисел (конечных, или «финитных», и трансфинитных) для анализа понятий линии или размерности и даже для оснований математики. Другие математики, в частности Эмиль Борель и Анри Леон Лебег, к тому времени уже работали над обобщением интеграла, в основу которого была положена канторовская теория бесконечных множеств.

Поэтому, когда сам Кантор обнаружил, что его теория множеств сопряжена с определенными трудностями, это было далеко не маловажным событием. Как уже говорилось, Кантор установил, что существуют все большие бесконечные множества, т.е. все большие трансфинитные числа. Но в 1895 г. у Кантора возникла идея рассмотреть множество всех множеств. Мощность такого «сверхмножества» должна была бы быть самой большой из возможных. Но еще ранее Кантор доказал, что множество всех подмножеств любого заданного множества должно обладать трансфинитным числом, которое превосходит трансфинитное число, отвечающее исходному множеству. Следовательно, заключил Кантор, должно существовать трансфинитное число, превосходящее наибольшее из трансфинитных чисел. Придя к столь нелепому выводу, Кантор сначала растерялся; однако затем он решил, что все множества можно разбить на противоречивые и непротиворечивые, и в 1899 г. сообщил об этом Дедекинду. Таким образом, множество всех множеств и соответствующее ему трансфинитное число попадали в разряд «противоречивых» — и тем самым исключались из рассмотрения.

Когда Бертран Рассел (1872-1970) впервые узнал о выводе, к которому пришел Кантор по поводу множества всех множеств, он усомнился в правильности рассуждений Кантора. В 1901 г. Рассел писал в своей работе, что Кантор, должно быть, «совершил очень тонкую логическую ошибку, которую я [Рассел] надеюсь объяснить в одной из следующих работ». Ясно, продолжал Рассел, что наибольшее трансфинитное число должно существовать, так как если взято все, то не останется ничего и, следовательно, ничего нельзя добавить. Рассел принялся размышлять над этой проблемой — и лишь пополнил арсенал проблем своим собственным «парадоксом», с которым мы вскоре познакомимся. Когда шестнадцать лет спустя статья Рассела была перепечатана в сборнике «Мистицизм и логика», он счел нужным добавить к ней подстрочное примечание, в котором извинился за допущенную ранее ошибку, ибо объяснить парадокс Кантора ему так и не удалось.

Помимо уже описанных количественных трансфинитных чисел, названных кардинальными, Кантор ввел также порядковые трансфинитные (ординальные) числа. Различие между ними достаточно тонко. Если мы рассматриваем, например, множество монет одинакового достоинства, то обычно имеет значение лишь количество монет, но никак не порядок, в котором они расположены. Но если требуется упорядочить студентов по успеваемости, то всегда найдется первый, второй, третий студент и т.д. Если в группе десять студентов, то занимаемые ими места в таком перечне образуют множество от первого до десятого. Это и есть множество ординальных чисел. Хотя в некоторых ранее существовавших цивилизациях и проводилось различие между кардинальными и ординальными числами, количество элементов в упорядоченном множестве из десяти элементов обычно обозначалось тем же символом, что и количество элементов в неупорядоченном множестве из десяти элементов. Так же поступали и в дальнейшем; подобным образом действуем и мы. Действительно, установив, кто занял десятое место, мы тем самым находим, что число людей, которых мы предварительно расставили по ранжиру, или упорядочили, равно десяти, и обозначаем количество элементов как в упорядоченном, так и в неупорядоченном множестве из десяти людей одним и тем же символом 10. В случае бесконечных множеств различие между кардинальными и ординальными числами более существенно, и поэтому для обозначения их применяют различные символы. Так, Кантор обозначал ординальное число, соответствующее упорядоченному множеству целых чисел 1, 2, 3, …, буквой ω. Упорядоченному множеству 1, 2, 3, …, 1, 2, 3 (или, если угодно, 4, 5, 6, …, 1, 2, 3) в обозначениях Кантора (сохранившихся и поныне) соответствовал символ ω + 3. Кантор ввел иерархию трансфинитных ординальных чисел. Эта иерархия простиралась до ω∙ω, ωn , ωω и далее (ср. [53]Впоследствии Феликс Клейн рассмотрел еще одну простую неевклидову геометрию, родственную удвоенной эллиптической геометрии, но отличающуюся от нее тем, что здесь уже любые две прямые пересекаются в одной точке. Клейн назвал такую геометрию просто эллиптической. [Риман, который рассматривал строение геометрий лишь в «малом», в окрестности одной точки пространства, не ставил вопроса о глобальной структуре введенных им пространств; именно это и позволяет — как весьма часто делают — считать его создателем и эллиптической геометрии. — Ред. ]
).

Разработав теорию трансфинитных ординальных чисел, Кантор в 1895 г. понял, что с этими числами также связана определенная трудность, о чем и сообщил Гильберту в том же году. Первым, кто указал на эту трудность в опубликованной (1897) работе, был Чезаре Бурали-Форти (1861-1931). Кантор считал, что множество ординальных чисел можно упорядочить подходящим образом по аналогии с тем, как упорядочены по величине хорошо знакомые всем вещественные числа. Но одна из теорем о трансфинитных ординальных числах утверждает, что ординальное число множества всех ординальных чисел от 1 и вплоть до любого ординального числа α (включая и само число α) больше α. Например, ординальное число множества ординальных чисел 1, 2, 3, …, ω равно ω + 1. А это в свою очередь означает, что множество всех ординальных чисел должно иметь ординальное число, превышающее самое большое число этого множества. Действительно, заметил Бурали-Форти, даже и к самому большому ординальному числу мы всегда можем прибавить единицу и получить еще большее ординальное число. Возникает противоречие, так как рассматриваемое множество, по предположению, содержит все ординальные числа. Из этого Бурали-Форти заключил, что ординальные числа допускают только частичное упорядочение.

Столкнувшись всего лишь с этими двумя проблемами, большинство математиков, несомненно, могли бы и дальше пребывать в том состоянии безмятежности, которое они обрели в результате пересмотра оснований математики в XIX в. Над вопросом о том, существует ли наибольшее кардинальное и ординальное числа, они предпочитали не задумываться. Ведь не существует же наибольшего целого числа — и никого это никогда не беспокоило!

Тем не менее канторовская теория бесконечных множеств вызвала бурю протестов. Несмотря на то что эта теория нашла, как уже говорилось, применение во многих областях математики, некоторые ученые по-прежнему отказывались принимать актуально бесконечные множества и все, что с ними связано. Леопольд Кронекер, испытывавший к тому же личную антипатию к Кантору, называл того шарлатаном. Анри Пуанкаре называл теорию множеств тяжелой болезнью и считал ее своего рода математической патологией. «Грядущие поколения, — заявил он в 1908 г., — будут рассматривать теорию множеств как болезнь, от которой они излечились». Даже в 20-х годах XX в. многие математики стремились избегать использования трансфинитных чисел (гл. X). Кантор выступил в защиту своей теории. Он утверждал, что разделяет философию Платона и верит, что в окружающем нас мире идеи существуют независимо от человека. И чтобы осознать реальность этих идей, необходимо лишь задуматься над ними. Парируя критические замечания философов, Кантор приводил метафизические и даже богословские доводы.

К счастью, у теории Кантора были не только противники, но и сторонники. Рассел назвал Кантора одним из великих мыслителей XIX в. В 1910 г. Рассел писал: «Решение проблем, издавна окутывавших тайной математическую бесконечность, является, вероятно, величайшим достижением, которым должен гордиться наш век». Расселу вторил Гильберт: «Никто не изгонит нас из рая, созданного Кантором». В 1926 г. Гильберт так отозвался о трудах Кантора: «Мне представляется, что это самый восхитительный цветок математической мысли и одно из величайших достижений человеческой деятельности в сфере чистого мышления».

Причину споров, которые породила теория множеств, очень тонко и точно охарактеризовал Феликс Хаусдорф в «Основаниях теории множеств» (1914). Теорию множеств он метко назвал «областью, где ничто не является очевидным, где истинные утверждения нередко звучат парадоксально, а правдоподобные зачастую оказываются ложными».

Большинство математиков были обеспокоены вытекавшими из теории Кантора следствиями по совершенно иной причине, нежели приемлемость или неприемлемость бесконечных множеств различной мощности. Противоречия, вскрытые Кантором при попытке сопоставить (трансфинитное) число множеству всех множеств и множеству всех ординальных чисел, заставили математиков осознать, что они используют аналогичные понятия не только в новых, но и в, казалось бы, хорошо обоснованных традиционных областях математики. Обнаруженные противоречия математики предпочитали называть парадоксами, так как парадокс может быть объяснен, а математиков не покидала надежда, что все встретившиеся трудности им в конце концов удастся разрешить. (В наше время то, что раньше называли парадоксами, чаще называют «антиномии».)

Приведем некоторые из парадоксов. Нематематическим примером парадоксов теории множеств может служить высказывание «Из всех правил имеются исключения». Само это высказывание является правилом. Следовательно, для него можно найти по крайней мере одно исключение. Но это означает, что существует правило, не имеющее ни одного исключения. Такого рода высказывания содержат ссылку на самих себя и отрицают самих себя.

Наибольшей известностью из нематематических парадоксов пользуется так называемый парадокс лжеца. Его разбирали Аристотель и многие другие логики, жившие позднее. В классическом варианте парадокса лжеца речь идет о высказывании «Это утверждение ложно». Обозначим предложение, стоящее в кавычках, через S. Если S истинно, то истинно то, что оно утверждает. Следовательно, S ложно. Если S ложно, то ложно то, что оно утверждает. Следовательно, S истинно.

Парадокс лжеца существует во многих вариантах. Например, комментируя какое-то свое высказывание, человек может заметить: «Все, что я говорю, — ложь». Является ли высказывание «Все, что я говорю, — ложь» истинным или ложным? Если человек действительно лжет, то, утверждая, что он лжет, он говорит правду, а если человек говорит правду, то, утверждая, что он лжет, он действительно лжет. В некоторых вариантах парадокса лжеца ссылка на себя менее очевидна. Так, два высказывания: «Следующее за этим утверждение ложно», «предыдущее утверждение истинно» — содержат противоречие, так как если второе утверждение истинно, то тогда заведомо ложно первое утверждение, сообщающее нам о том, что второе утверждение ложно. Если же второе утверждение, как и говорится в первом утверждении, ложно, то значит, первое утверждение ложно и, следовательно, второе утверждение должно быть истинным.

Курту Гёделю (1906-1978), величайшему логику XX в., принадлежит несколько иной вариант парадокса с противоречивыми высказываниями, 4 мая 1934 г. A произносит единственную фразу: «Любое высказывание, которое A сделает 4 мая 1934 г., ложно». Это высказывание не может быть истинным, так как утверждает о самом себе, что оно ложно. Но оно не может быть и ложным, так как, для того чтобы оно было ложным, A должен был бы высказать 4 мая 1934 г. хоть одну истину, — а A сказал в этот день лишь одну фразу.

Первые математические противоречия, чреватые серьезными неприятностями, обнаружил Бертран Рассел и сообщил о них Готлобу Фреге в 1902 г. Фреге в то время занимался подготовкой к печати второго тома «Основных законов арифметики», в котором изложил новый подход к обоснованию числовой системы. (Подробнее о развитом Фреге подходе мы расскажем в следующей главе.) Свой подход Фреге в значительной мере основывал на теории множеств, или классов, — той самой теории, где Рассел обнаружил противоречие, о котором сообщил в письме Фреге и поведал математическому миру в книге «Принципы математики» (1903). Рассел занимался изучением парадокса Кантора о множестве всех множеств — и предложил свой вариант этого парадокса.

Парадокс Рассела относится к классам. Класс книг не является книгой и поэтому не содержит самого себя, но класс идей есть идея и содержит сам себя. Каталог каталогов — каталог. Следовательно, одни классы содержат (или включают) самих себя, другие не содержат. Пусть N — класс классов, не содержащих самих себя. К какой разновидности классов принадлежит N? Если N принадлежит N, то, по определению, N не должен принадлежать N. Если же N не принадлежит N, то по определению N должен принадлежать N. Когда Рассел впервые открыл это противоречие, он решил, что трудность здесь кроется в логике, а не в самой математике. Но обнаруженное противоречие ставит под удар само понятие множества, или класса объектов, широко используемое во всей математике. По словам Гильберта, парадокс Рассела был воспринят математическим миром как катастрофа.

В 1918 г. Рассел предложил популярный вариант своей антиномии, получивший название парадокс брадобрея. Один деревенский брадобрей объявил, что он бреет всех жителей деревни, которые не бреются сами, но, разумеется, не бреет тех жителей, которые бреются сами. Брадобрей похвалялся, что в парикмахерском деле ему нет равных, но однажды задумался над вопросом, должен ли он брить самого себя. Если он не бреется сам, то первая половина его утверждения (а именно та, в которой говорится, что брадобрей бреет всех, кто не бреется сам) требует, чтобы он самого себя брил. Но если брадобрей бреется сам, то вторая половина его утверждения (та, в которой говорится, что всех тех, кто бреется сам, он не бреет), требует, чтобы он самого себя не брил. Таким образом, брадобрей оказался в безвыходном положении — он не мог ни брить себя, ни не брить.

Другой парадокс, дающий представление о тех трудностях, с которыми столкнулись математики, был впервые сформулирован в 1908 г. математиками Куртом Греллингом (1886-1941) и Леонардом Нельсоном (1882-1927). Этот парадокс относится к прилагательным, описывающим самих себя и не описывающим самих себя. Такие прилагательные, как, например, «короткий» (-ая, -ое, -ие) или «русский» (-ая, -ое, -ие) описывают самих себя, т.е. применимы к себе, в то время как прилагательные «длинный» или «французский» к себе неприменимы (ведь прилагательное «длинный» вовсе не является длинным, а прилагательное «французский», конечно, русское, а не французское). Аналогично прилагательное «многосложное» является многосложным, но прилагательное «односложное» односложным не является. Назовем прилагательные, применимые к самим себе, автологическими, а прилагательные, неприменимые к самим себе, — гетерологическими. Если прилагательное «гетерологический» гетерологично, то оно применимо к самому себе и, следовательно, автологично. Если прилагательное «гетерологический» автологично, то оно не гетерологично. Но автологичное прилагательное по определению применимо к самому себе. Следовательно, прилагательное «гетерологический» гетерологично. Таким образом, какое бы допущение мы ни приняли, оно неизменно приводит к противоречию. В символической записи парадокс Греллинга — Нельсона гласит: x гетерологичен, если x есть «не x».

В 1905 г. Жюль Ришар (1862-1956), используя тот же метод, которым Кантор доказал, что вещественных чисел больше, чем целых, изобрел еще один «парадокс». Рассуждения Ришара довольно сложны, но противоречие, к которому он приходит, в упрощенном варианте содержится в парадоксе, о котором Дж.Дж. Берри из Бодлеанской библиотеки сообщил Бертрану Расселу (Рассел опубликовал этот парадокс в 1906 г.). Парадокс Берри получил название парадокса слов. Каждое целое число допускает множество различных словесных описаний. Например, число «пять» можно задать одним словом «пять» или фразой «число, следующее за числом четыре». Рассмотрим теперь все возможные описания, состоящие не более чем из 100 букв русского алфавита. Таких описаний не больше чем 33100; поэтому существует лишь конечное множество целых чисел (не большее чем 33100), задаваемых всеми возможными описаниями. Следовательно, существуют какие-то целые числа, не задаваемые описаниями, состоящими не более чем из 100 букв. Рассмотрим «наименьшее число, не задаваемое описанием, которое содержит не более ста букв». Но мы только что привели описание такого числа, содержащее менее 100 букв (оно содержит всего 65 букв).

Многие математики в начале XX в. попросту отмахивались от парадоксов, не придавая им особого значения, так как парадоксы относились к теории множеств — тогда еще новой области математики, лежащей далеко не в центре интересов математического мира. Но их оставшиеся в меньшинстве более проницательные коллеги понимали, что парадоксы затрагивают не только классическую математику, но и логику, и это их серьезно тревожило. Кое-кто пытался следовать совету, который Уильям Джеймс дал в своем «Прагматизме»: «Если вам встретится противоречие, введите более тонкое различие». Некоторые логики, начиная с Френка Пламптона Рамсея (1903-1930), пытались проводить различие между семантическими и истинными (т.е. логическими) противоречиями. «Парадокс слов», «гетерологический парадокс» и «парадокс лжеца» они относили к семантическим парадоксам, так как все эти парадоксы затрагивали такие понятия, как истинность и определяемость (или неоднозначность) того или иного словоупотребления. Предполагалось, что строгое определение таких понятий позволит разрешить семантические парадоксы. С другой стороны, парадокс Рассела, парадокс Кантора о множестве всех множеств и парадокс Бурали-Форти были отнесены к логическим противоречиям. Сам Рассел не проводил различия между семантическими и логическими противоречиями. По его мнению, все парадоксы возникают из-за одной логической ошибки, которую он назвал принципом порочного круга и описал следующим образом: «То, что содержит все множество, не должно быть элементом множества». Принцип Рассела можно сформулировать иначе: «Если для того, чтобы определить множество, необходимо использовать все множество, то определение не имеет смысла». Так в 1905 г. Рассел объяснил принцип порочного круга. В 1906 г. его объяснение принял Пуанкаре, предложивший специальный термин «непредикативное определение» (определение, в котором некий объект задается (или описывается) через класс объектов, содержащий определяемый объект). Такие определения незаконны.

Рассмотрим пример, приведенный Расселом в «Основаниях математики» (Principia Mathematica [95]Дж. Буль родился в очень бедной семье мелкого торговца, в силу чего он сумел окончить лишь несколько начальных классов школы для бедных, которые, разумеется, ничего не дали ему в области математики. Все свои знания Буль приобрел путем самообразования. Стремясь разобраться в математике глубже, Буль обратился к трудам классиков науки; тогда и родились у него первые самостоятельные идеи, которые он изложил в статьях, направленных в «Кембриджский математический журнал». К счастью, редактору журнала, представителю «кембриджской группы» математиков Д. Грегори, поиски Буля оказались достаточно близкими. Именно с помощью «кембриджцев» Булю удалось в конце жизни стать профессором математики во вновь открытом католическом колледже (университете) в Корке. Характерно, что первая развернутая система формальной (символической) логики принадлежит самоучке Булю — не закончив даже средней школы, он тем самым не был связан путами традиционных взглядов и установок, смог взглянуть на математику свежим взглядом и оценить ее логический статут с той ясностью и полнотой, которая позволила Б. Расселу позже сказать: «Чистую математику открыл Буль в сочинении, которое называлось «Законы мысли».
*, гл. X). Закон исключенного третьего утверждает, что каждое высказывание является либо истинным, либо ложным. Но закон исключенного третьего сам также является высказыванием. Следовательно, вопреки нашим намерениям сформулировать всегда истинный закон логики мы получили высказывание, которое, как и любое другое высказывание, может быть истинным, но может быть и ложным. «Такая формулировка логического закона, — заявил Рассел, — лишена смысла».

Приведем еще несколько примеров. Может ли всемогущее существо создать неразрушимый предмет? Разумеется, может — на то оно и всемогущее. Но коль скоро оно всемогущее, то ему ничего не стоит разрушить что угодно, в том числе и неразрушимый предмет. В этом примере слово «всемогущее» принимает значение из недопустимого множества. Такого рода парадоксы, как отметил логик Альфред Тарский, будучи семантическими, бросают вызов языку в целом.

Предпринимались и другие попытки разрешить названные парадоксы. Противоречие, заключенное в высказывании «Из всех правил имеются исключения», отвергалось некоторыми как лишенное смысла. Существуют предложения, поясняли они, построенные по всем правилам грамматики и тем не менее лишенные смысла, т.е. ложные, как, например, фраза «Это предложение состоит из пяти слов». Аналогично первоначальный вариант парадокса Рассела (предложенный самим Расселом) отвергался на том основании, что класс всех классов, не содержащих самих себя, не имеет смысла или не существует. Парадокс брадобрея «решался» либо ссылкой на то, что такого брадобрея не существует, либо требованием, согласно которому брадобрей должен исключить себя как из класса тех, кого он бреет, так и из класса тех, кого он не бреет (утверждение «Учитель обучает всех, кто ходит к нему на занятия», поясняли сторонники такого решения парадокса брадобрея, не распространяется на самого учителя). Рассел отверг подобное объяснение. В работе 1908 г. он так выразил свое мнение по этому поводу: «Всякий волен в беседе с человеком, у которого длинный нос, заметить: "Говоря о носах, я отнюдь не имею в виду слишком длинные носы". Вряд ли, однако, такое замечание можно считать успешной попыткой обойти больной вопрос».

Слово «все» действительно многозначно. По мнению некоторых логиков и математиков, несколько семантических парадоксов обязаны своим происхождением употреблению слова «все». Так, в парадоксе Бурали-Форти речь идет о классе всех ординальных чисел. Включает ли этот класс ординальное число, соответствующее всему классу? Аналогичным образом гетерологический парадокс определяет некий класс слов. Включает ли этот класс само слово «гетерологический»?

Возражение Рассела — Пуанкаре против непредикативных определений стало общепринятым. К сожалению, такие определения использовались в классической математике. Наибольшие треволнения вызвало понятие наименьшей верхней границы. Рассмотрим множество всех чисел x, заключенных между 3 и 5, но не достигающих этих границ: 3 < x < 5. Верхними границами, т.е. числами, превосходящими все принадлежащие множеству числа, являются числа 5, 51/2, 6, 7, 8 и т.д. Среди них существует наименьшая верхняя граница — число 5. Следовательно, наименьшая верхняя граница определена через класс верхних границ, содержащий ту самую границу, которая подлежит определению. Другой пример непредикативного определения — определение максимального значения (максимума) функции на заданном интервале. Максимальное значение — наибольшее из значений, принимаемых функцией на заданном интервале. Наименьшая верхняя граница, как и максимум функции, — фундаментальные понятия математики, и в математическом анализе избавиться от них нелегко. Кроме того, немало непредикативных определений используется и в других случаях.

Хотя непредикативные определения, встречающиеся в парадоксах, действительно приводят к противоречиям, чувство неудовлетворенности не оставляло математиков, так как, насколько они могли видеть, далеко не все непредикативные определения приводили к противоречиям. Такие высказывания, как «Джон — самый высокий игрок в своей команде» или «Это предложение — короткое», заведомо безобидны в этом отношении, хотя они и непредикативны. То же можно сказать и о предложении «Самое большое число в множестве чисел 1, 2, 3, 4, 5 равно 5». Непредикативные предложения используются буквально на каждом шагу. Так, задав класс всех классов, содержащих более пяти элементов, мы тем самым задаем класс, содержащий самого себя. Множество S всех множеств, определяемых не более чем 25 словами, также содержит S. Безусловно, обилие в математике непредикативных определений не могло не тревожить ученых.

К сожалению, мы не располагаем критерием, который позволил бы распознавать, приводит ли данное непредикативное определение к противоречию или не приводит. Следовательно, всегда существует опасность, что вновь обнаруженные непредикативные определения приведут к противоречиям. Эта проблема стояла очень остро с самого начала, когда Эрнст Цермело и Анри Пуанкаре впервые взялись за нее. Пуанкаре предложил наложить запрет на непредикативные определения. Один из выдающихся математиков первой половины XX в. Герман Вейль, сознавая, что некоторые непредикативные определения приводят к противоречиям, приложил немало усилий, пытаясь переформулировать определение наименьшей верхней границы таким образом, чтобы это позволило избежать непредикативности. Усилия Вейля не увенчались успехом. Обеспокоенный постигшей его неудачей, Вейль пришел к выводу, что математический анализ логически не обоснован и что некоторыми его разделами необходимо пожертвовать. Наложенный Расселом запрет («Мы не можем при определении множеств исходить из произвольных условий, а затем разрешать всем построенным множествам без разбора быть элементами других множеств») заведомо не давал ответа на вопрос, какие из непредикативных определений можно считать допустимыми.

Хотя первопричина возникших противоречий казалась вполне очевидной, проблема построения математики, свободной от противоречий, оставалась открытой. Более того, у математиков отнюдь не было уверенности в том, что в будущем не появятся новые противоречия. Все это позволяет понять, почему в начале XX в. проблема непротиворечивости стала весьма острой. Математики рассматривали эти противоречия как парадоксы теории множеств. Но именно теория множеств открыла математикам глаза на то, что противоречия возможны и в классических разделах математики.

На фоне непрекращающихся попыток подвести прочный фундамент под здание математики доказательство непротиворечивости перерастало в острейшую проблему. Но в начале XX в. математики поняли, что с точки зрения обоснования уже полученных результатов существуют и другие проблемы, не уступающие по своей значимости проблемам непротиворечивости. Критический дух математиков окреп и закалился в конце XIX в., и, вступив в двадцатое столетие, они подвергли безжалостному пересмотру все, что легко принимали на веру их предшественники. Им удалось обнаружить совершенно невинное на первый взгляд утверждение, которое ранее кочевало из доказательства в доказательство, не привлекая внимания. Утверждение это состояло в следующем: если имеется любой набор (конечный или бесконечный) множеств, то всегда можно, выбрав из каждого множества по одному элементу, составить из этих элементов новое множество. Так, от каждого штата из пятидесяти штатов США можно выбрать по одному жителю и составить из них группу из 50 человек.

То, что это утверждение в действительности составляет специальную аксиому — так называемую аксиому выбора, математики осознали из работы Эрнста Цермело (1871-1953), опубликованной в 1904 г. В этой связи весьма уместно обратиться к истории вопроса [56]И даже ранее: векторный характер перемещений, скоростей, сил был по существу знаком еще античным ученым; само это представление, как и «правило параллелограмма» сложения векторов, сложилось еще в школе Аристотеля; широко использовал это представление и Архимед.
. Когда Кантор задумал расположить трансфинитные числа по величине, ему понадобилась теорема о том, что любое множество вещественных чисел может быть вполне упорядочено. Всякое вполне упорядоченное множество прежде всего линейно упорядочено. Это означает, что если a и b — любые два (разные!) элемента множества, то, как и в множестве вещественных чисел или точек прямой, либо a предшествует b, либо b предшествует a. Кроме того, если a предшествует b и b предшествует c, то a предшествует c. Множество вполне упорядочено, если в любом его подмножестве, каким бы способом оно ни было выбрано, всегда существует первый элемент. Например, множество положительных целых чисел, расположенных в обычной последовательности, вполне упорядочено. Множество вещественных чисел, расположенных в обычной последовательности, линейно упорядочено, а не вполне упорядочено, так как в подмножестве, состоящем из всех чисел, которые больше нуля, нет первого элемента. В 1883 г. Кантор высказал предположение, что каждое множество можно вполне упорядочить, и этой гипотезой он пользовался, так и не сумев ее доказать. Напомним, что в своем докладе на II Международном математическом конгрессе 1900 г. Гильберт назвал среди прочих проблему доказательства полной упорядочиваемости множества вещественных чисел. В 1904 г. Цермело доказал, что каждое множество может быть вполне упорядочено (см., например, [54]Хорошо известно, как страдал Лобачевский от непризнания его работ в официальных кругах, в частности в Российской академии наук; не получил никакого признания и Appendix Я. Бойаи. Характерно также, что еще в 1869-1870 гг. видный французский математик, академик Жозеф Бертран (1822-1900) печатал в «Докладах» Парижской академии наук свои «опровержения» неевклидовой геометрии, к которым он относился с полной серьезностью.
), и в ходе доказательства особо отметил, что он использует аксиому выбора.

Как уже неоднократно случалось в прошлом, математики использовали аксиому выбора бессознательно и лишь гораздо позднее не только поняли, что применяют эту аксиому, но и докопались до причин, побудивших их ее принять. Кантор неявно использовал аксиому выбора в 1887 г. для доказательства теоремы о том, что любое бесконечное множество содержит подмножество с кардинальным числом N 0 . Кроме того, аксиома выбора неявно использовалась при доказательствах многих теорем топологии, теории меры, алгебры и функционального анализа. Например, аксиома выбора находит применение при доказательстве теоремы о том, что в любом ограниченном множестве чисел всегда можно выбрать последовательность, сходящуюся к предельной точке множества. Аксиома выбора используется также для доказательства фундаментальных утверждений, например при построении вещественных чисел из аксиом Пеано для целых чисел. Аксиома выбора применяется и при доказательстве теоремы о конечности множества всех подмножеств конечного множества. В 1923 г. Гильберт назвал аксиому выбора общим принципом, который необходим и неоценим как один из первых элементов теории математического вывода. Пеано первым обратил внимание на аксиому выбора. Еще в 1890 г. он писал, что нельзя бесконечно применять произвольное правило, позволяющее отбирать по одному элементу из каждого множества, сколько бы их ни было. Пеано сформулировал правило выбора для частного случая, т.е. для той задачи (интегрируемости дифференциальных уравнений), рассмотрением которой он занимался, и тем самым устранил возникшую трудность. То, что аксиома выбора действительно является аксиомой, понял в 1902 г. Беппо Леви, а Цермело узнал об этом от Эрхардта Шмидта в 1904 г.

Явное использование Цермело аксиомы выбора вызвало бурю протестов в следующем же номере (за 1904 г.) авторитетного журнала Mathematische Annalen. С критикой аксиомы выбора выступили Эмиль Борель (1871-1956) и Феликс Бернштейн (1878-1956). Вслед за их критическими выступлениями последовал обмен письмами между ведущими математиками того времени Эмилем Борелем, Рене Бэром (1874-1932), Анри Лебегом (1875-1941) и Жаком Адамаром (1865-1963); эти письма были опубликованы на страницах журнала Bulletin de la Société Mathématique de France за 1905 г.

Суть критики сводилась к тому, что если не указано правило, по которому из каждого множества выбирается по элементу, то реально выбор не производится и поэтому в действительности новое множество не образуется. В ходе доказательства выбор может изменяться, поэтому доказательство утрачивает силу. По выражению Бореля, выбор без правил представляет собой акт веры; поэтому аксиома выбора лежит за пределами математики. Поясним сказанное на примере, предложенном в 1905 г. Бертраном Расселом. Предположим, что у меня есть сто пар обуви и я из каждой пары выбираю левый ботинок. Правило, которым я руководствуюсь при выборе в этом случае, ни у кого не вызовет сомнений. Но предположим, что у меня имеется сто пар носков и из каждой пары я выбираю по одному носку. В этом случае невозможно указать, какой носок (правый или левый) был выбран из каждой пары, т.е. нельзя сформулировать правило, по которому был произведен выбор. Те, кто отстаивал аксиому выбора, признавали, что правила выбора может и не быть, но не считали его необходимым. По их мнению, акты выбора определены просто тем, что их считают определенными.

Против аксиомы выбора выдвигались и другие возражения. Так, Пуанкаре принимал аксиому выбора, но отвергал предложенное Цермело доказательство полной упорядоченности, поскольку в этом доказательстве используются непредикативные утверждения. Бэр и Борель возражали не только против аксиомы, но и против доказательства, так как из него не видно, как осуществляется полное упорядочение, — доказывается лишь, что оно осуществимо. Брауэр, со взглядами которого на основания математики мы познакомимся в дальнейшем (гл. X), возражал потому, что считал неприемлемыми актуально бесконечные множества. Возражение Рассела сводилось к тому, что множество естественно определять свойством, которым обладают все элементы этого множества, и только они. Так, например, множество людей, носящих зеленую шляпу, можно было бы определить свойством «носящие зеленую шляпу». Но аксиома выбора не требует, чтобы выбранные элементы обладали каким-нибудь определенным свойством. Она лишь утверждает, что каждый элемент выбран из одного из заданных множеств — по одному элементу на каждое множество. Сам Цермело довольствовался интуитивным понятием множества, и поэтому у него не вызывало сомнений, что при любом выборе из каждого множества по одному элементу образуется новое множество.

Единственным стойким защитником Цермело был Адамар. Он утверждал, что аксиома выбора приемлема по тем же причинам, какие он приводил, отстаивая теорию множеств Кантора. По мнению Адамара, для того чтобы утверждать существование объектов, отнюдь не требуется их описывать. Если одного утверждения о том, что объект существует, достаточно для прогресса математики, то это утверждение приемлемо.

В ответ на критические замечания Цермело дал второе доказательство полного упорядочения, также основанное на использовании аксиомы выбора (в действительности Цермело показал, что оба доказательства эквивалентны). Цермело отстаивал использование аксиомы выбора и утверждал, что до тех пор, пока эта аксиома не приводит к противоречию, ее использование в математике вполне допустимо. По словам Цермело, аксиома выбора «имеет исключительно объективный характер, который сразу же ясен». Он признал, что аксиома выбора не вполне самоочевидна, так как в ней говорится о выборе из бесконечно многих множеств, но она научно необходима, поскольку используется для доказательства важных теорем.

Было предложено много эквивалентных вариантов аксиомы выбора. Если аксиому выбора принять наряду с другими аксиомами теории множеств, то эти варианты представляют собой теоремы. Но все попытки заменить аксиому выбора менее спорной аксиомой оказались безуспешными. Маловероятно, что удастся найти удачную замену аксиомы выбора, приемлемую для всех математиков.

Споры вокруг аксиомы выбора по существу сводились к одной главной проблеме: как следует понимать существование в математике? Одни математики склонны считать «существующим» любое понятие, оказавшееся полезным, если оно не приводит к противоречиям, например обычную замкнутую поверхность, площадь которой бесконечна. Для других математиков «существование» означает четко распознаваемое определение или такое понятие, которое позволяет отождествить или по крайней мере описать его. Одной лишь возможности выбора недостаточно. В дальнейшем эти взаимоисключающие точки зрения стали еще более непримиримыми — мы поговорим о них в следующих главах. Пока же заметим только, что аксиома выбора стала яблоком раздора между математиками.

И тем не менее десятилетия спустя, когда математика значительно расширила свои границы, многие ученые продолжали использовать аксиому выбора. Не утихали и споры по поводу того, можно ли считать аксиому выбора и доказываемые с ее помощью теоремы законной, вполне приемлемой математикой. Аксиома выбора стала предметом активного обсуждения и уступала в этом отношении лишь аксиоме Евклида о параллельных. По замечанию Лебега, оппонентам не оставалось ничего другого, как поносить друг друга, ибо прийти к соглашению они не могли. Сам Лебег, несмотря на отрицательное и скептическое отношение к аксиоме выбора, все же пользовался ею, по его собственному выражению, «дерзко и осторожно», полагая, что будущее покажет, кто прав.

Но в первые же годы XX в. математиков стала беспокоить еще одна проблема. Сначала она не представлялась достаточно фундаментальной, но по мере распространения канторовской теории трансфинитных кардинальных и ординальных чисел становилась все более острой и настоятельно требовала своего решения.

В своих последних работах Кантор построил теорию трансфинитных кардинальных чисел на основе теории ординальных чисел. Например, кардинальное число множества всех возможных конечных множеств (точнее, множество всех конечных ординальных чисел) равно N0. Кардинальное число всех возможных множеств ординальных чисел, содержащих лишь считанное число (N0) элементов, равно N1. Продолжая эту последовательность, Кантор получал все большие кардинальные числа, которые обозначил N0, N1, N2, …. Кроме того, каждое очередное кардинальное число непосредственно следовало за предыдущим (было ближайшим к предыдущему кардинальным числом). Но в самом начале своих работ по трансфинитным числам Кантор показал, что множество всех вещественных чисел насчитывает 2N 0 членов (эту величину принято кратко обозначать c) и что 2N 0 больше, чем N0. Вопрос, который тогда же поставил Кантор, заключался в следующем: с каким членом последовательности алефов совпадает c? Так как кардинальное число N1 следует непосредственно за N0, кардинальное число c больше или равно N1. Кантор высказал предположение, что c = N1. Это предположение, впервые сформулированное в 1884 г. и опубликованное в том же году, получило название гипотезы континуума. Эта гипотеза допускает также другую, несколько более простую формулировку: не существует трансфинитного числа, заключенного между N0 и c (кардинальное число любого бесконечного подмножества множества вещественных чисел либо равно N0, либо равно с). В первые десятилетия XX в. вокруг гипотезы континуума развернулась бурная дискуссия, но проблема так и не была решена. Помимо того что гипотеза континуума дала возможность доказать новые теоремы, она приобрела особое значение, так как позволила глубже понять бесконечные множества, взаимно-однозначное соответствие и аксиому выбора и тем самым способствовала лучшему обоснованию теории множеств.

Итак, в начале XX в. перед математиками встало несколько трудных проблем. Требовалось устранить уже обнаруженные противоречия. Но еще более важным представлялось доказать непротиворечивость всей математики, ибо без этого нельзя было гарантировать, что в будущем не возникнут новые противоречия. Все эти проблемы имели решающее значение для судеб математики. Многие ученые продолжали считать неприемлемой аксиому выбора и ставили под сомнение доказанные на ее основе теоремы. «Нельзя ли доказать те же теоремы, исходя из более приемлемой аксиомы, и полностью отказаться от аксиомы выбора?» — этот вопрос беспокоил умы. Необходимо было также доказать или опровергнуть гипотезу континуума, важность которой по мере развития математики становилась все более очевидной.

Проблемы, с которыми столкнулись математики в начале XX в., были весьма серьезными, однако при других обстоятельствах они вряд ли вызвали бы столь сильные потрясения. Правда, противоречия в любом случае пришлось бы разрешать, но выявленные к началу XX в. противоречия относились к теории множеств — новому разделу математики, и математиков не оставляла надежда, что в свое время его удастся строго обосновать. Что же касается опасений обнаружить в классической математике новые противоречия, возможно связанные с использованием непредикативных определений, то к началу XX в. проблему непротиворечивости удалось свести к проблеме непротиворечивости арифметики, а то, что арифметика непротиворечива, ни у кого не вызывало сомнений. Вещественные числа находились в обращении более пяти тысяч лет, и относительно их было доказано огромное число теорем; при этом никаких противоречий никогда обнаружено не было. То обстоятельство, что какая-то аксиома, в данном случае аксиома выбора, использовалась неявно и что ее продолжали применять, подавляющее большинство математиков не беспокоило. Движение за аксиоматизацию, развернувшееся в конце XIX в., обнаружило, что многие аксиомы использовались неявно. Гипотеза континуума была в то время не более чем деталью теории Кантора, а некоторые математики целиком отвергали канторовскую теорию множеств. Математикам приходилось сталкиваться и с гораздо более серьезными трудностями, но они никогда не теряли присутствия духа. Например, в XVIII в., полностью сознавая принципиальный характер трудностей, возникших при попытках обосновать математический анализ, математики тем не менее продолжали создавать на основе дифференциального и интегрального исчисления новые обширные разделы математики и лишь впоследствии подвели под свои построения прочный фундамент, в основе которого лежало понятие числа.

Проблемы теории множеств можно было бы сравнить с запалом, который приводит к воспламенению заряда, вызывающего взрыв бомбы. Некоторые все еще верили, что математика представляет собой свод незыблемых истин. Они надеялись доказать это, и Фреге предпринял попытку осуществить подобные намерения. Кроме того, возражения против аксиомы выбора были вызваны не только тем, что утверждает сама аксиома. Математики, в частности Кантор, вводили все новые абстрактные понятия, обладавшие, по их утверждениям, той же степенью достоверности, какой обладает, например, понятие треугольника. Другие отвергали абстрактные понятия, считая их далекими от реальности и потому неспособными нести сколько-нибудь полезную нагрузку. Дискуссия по поводу теории множеств Кантора, аксиомы выбора и аналогичных понятий свелась к основному вопросу: в каком смысле можно утверждать, что математические понятия существуют? Должны ли они соответствовать реальным физическим объектам, являясь их идеализацией? Эту проблему рассматривал еще Аристотель. Он, как и большинство греческих мыслителей, считал, что математические понятия непременно должны иметь реальные прототипы. Именно из-за отсутствия физических реализаций Аристотель отвергал и существование бесконечного множества как «готовой» совокупности элементов и правильный семиугольник, который не удавалось построить циркулем и линейкой, что заставляло античных математиков считать его «непостроимым», т.е. в определенном смысле «не существующим». С другой стороны, последователи Платона — а Кантор был одним из них — полагали, что идеи существуют в некоем объективном «мире идей» и не зависят от человека. Человек лишь открывает эти идеи.

Другой гранью проблемы существования был смысл доказательств существования. Например, Гаусс доказал, что любое алгебраическое уравнение n-й степени с вещественными или комплексными коэффициентами имеет по крайней мере один (комплексный, а может, и вещественный) корень. Но из приведенного Гауссом доказательства не было ясно, каким образом можно вычислить этот корень. Аналогично Кантор доказал, что вещественных чисел больше, чем алгебраических (корней алгебраических уравнений с целыми коэффициентами). Следовательно, должны существовать трансцендентные иррациональные числа, не являющиеся алгебраическими. Но такое доказательство существования не позволяло назвать и тем более вычислить хотя бы одно трансцендентное число. Некоторые математики начала XX в. (Борель, Бэр, Лебег) считали чистые доказательства существования бессмысленными. По их мнению, доказательство существования должно позволять математикам вычислять существующие величины с любой степенью точности. Такие доказательства существования получили название конструктивных.

Некоторых математиков беспокоило еще одно обстоятельство. Аксиоматизация математики была осуществлена как формальный ответ на интуитивное принятие многих очевидных фактов. Правда, аксиоматизация помогла избавиться от противоречий и неясностей, в частности в математическом анализе. Но сторонники аксиоматизации настаивали также на явных определениях, формулировках аксиом и доказательствах того, что было очевидно на интуитивном уровне — настолько очевидно, что прежде никто даже не осознавал, в какой мере те или иные рассуждения опираются на интуицию (гл. VIII). Возникшие в результате аксиоматизации дедуктивные построения оказались весьма сложными и громоздкими. Так, построение теории рациональных и в особенности иррациональных чисел на основе аксиоматики целых чисел изобиловало множеством деталей и отличалось большой сложностью. Все это вызывало тягостное чувство у некоторых математиков, в частности у Леопольда Кронекера (1823-1891), считавшего все эти новомодные теории излишне сложными и искусственными. Кронекер первым из выдающихся математиков своего времени пришел к заключению, что с помощью логических средств невозможно создать разумную теорию, выходящую за рамки интуиции, подсказываемой здравым смыслом.

Другим камнем преткновения стала математическая логика, бурное развитие и все расширяющиеся границы которой заставили математиков осознать, что обращение к законам логики не может оставаться неформальным и осуществляться лишь от случая к случаю. Работы Пеано и Фреге показали математикам необходимость тонко различать понятия, используемые в математических рассуждениях, например проводить различия между элементом, принадлежащим какому-то классу, и классом, входящим в другой класс. Проведение такого рода различий современники Фреге считали чрезмерным педантизмом. По их мнению, эти различия скорее затрудняли, чем облегчали, работу математика.

Гораздо более важным было то, что многие математики начали сомневаться в неограниченной применимости принципов логики, хотя в конце XIX в. эти сомнения еще никто не высказывал явно. Что гарантирует применимость принципов логики к бесконечным множествам? Если принципы логики есть продукт человеческого опыта, то нельзя не спросить, распространяются ли они на те чисто рациональные построения, которые не имеют опытной основы.

Разногласия между математиками по поводу затронутых нами проблем начались задолго до наступления XX в. Новые парадоксы лишь усугубили уже существовавшие расхождения в мнениях. Через многие годы математики с тоской вспомнят о коротком, но счастливом периоде, предшествовавшем появлению противоречий, — периоде, о котором Поль Дюбуа-Реймон отозвался как о времени, когда математики «еще жили в раю».