Мало кому из математиков удается сформулировать задачу, которая несколько столетий остается без решения и при этом оказывается чрезвычайно важной для областей математики, вообще не существовавших на момент ее постановки. Пьер Ферма (частица «де» была добавлена позже, когда он стал правительственным чиновником), возможно, самый известный член этого благородного собрания. Но он, строго говоря, не был математиком: Ферма получил юридическое образование и стал советником парламента в Тулузе. С другой стороны, было бы явной натяжкой назвать его математиком-любителем. Возможно, правильнее всего считать Ферма неоплачиваемым профессионалом, зарабатывавшим на жизнь юридической практикой.

Ферма почти не публиковался, возможно, потому, что нематематические обязанности практически не оставляли ему времени для подробной записи своих открытий. То, что о них известно, мы черпаем в основном из его писем к математикам и философам, таким как Пьер де Каркави, Рене Декарт, Марен Мерсенн и Блез Паскаль. Ферма знал, что такое доказательство; кстати сказать, единственное неверное утверждение в сохранившихся его бумагах (формула, которая, как он считал, всегда выдает простое число) сопровождается замечанием о том, что доказательства у него нет. Из его доказательств почти ничего не сохранилось; самое существенное из дошедшего до нас – доказательство того, что сумма двух квадратов не может быть четвертой степенью, выполненное новаторским методом, который он назвал «методом бесконечного спуска».

Ферма недаром заслужил математическую славу. Он многого добился в геометрии, разработал дифференциальные методы, ставшие предвестниками дифференциального исчисления, работал над теорией вероятностей и математикой в области физики света. Однако главным его достижением стала основополагающая работа по теории чисел. Именно в ней он изложил гипотезу, прославившую его, в том числе и среди обычной публики – отчасти благодаря документальному телефильму и книге-бестселлеру. А именно свою простую, но таинственную Великую или Последнюю (как она известна на Западе) теорему. «Последняя» – не потому, что он прохрипел ее на смертном одре, но потому, что последователи Ферма сумели в течение почти 100 лет после его кончины доказать (или опровергнуть в одном случае) все сформулированные им теоремы за одним-единственным исключением. Эта задачка последней держала оборону, ставя в тупик лучшие умы.

Среди ученых, интересовавшихся этой теоремой, был и Гаусс – один из лучших математиков в истории. Почти через 200 лет после того, как Ферма оставил на полях книги свое знаменитое замечание, Гаусс отмахнулся от Великой теоремы Ферма, объявив ее типичным представителем громадного множества утверждений о числах, которые легко угадать, но практически невозможно доказать или опровергнуть. Вообще-то во всем, что касалось математики, Гаусс обладал безупречным вкусом, эта же оценка оказалась примером редкой для него недооценки математического значения. В защиту Гаусса можно сказать, что первые три с четвертью столетия после того, как Ферма сформулировал теорему, большинство математиков придерживалось того же мнения. Ее важность выявилась лишь позже, когда были обнаружены тонкие связи этого утверждения с центральными областями математики.

* * *

Сегодня Бомон-де-Ломань – французская коммуна (административный район) в области Центральные Пиренеи на юге Франции. Этот городок был основан в 1276 г. как бастида – один из целой серии укрепленных средневековых городков в этом районе – и имел бурную историю. В период Столетней войны Бомон-де-Ломань был на время захвачен англичанами, а затем потерял 500 жителей в результате чумы. Этот католический город зажат с трех сторон протестантскими городами. Генрих III продал его будущему Генриху IV, который взял город в 1580 г.; в результате устроенной победителями резни в нем погибло около сотни жителей. Людовик XIII в начале XVII в. осадил Бомон-де-Ломань: город принял участие в бунте против короля, в результате чего в 1651 г. был подвергнут военной оккупации и обложен крупным штрафом. Затем в нем вновь разразилась чума.

Среди всех этих бурных событий незаметным прошло рождение самого знаменитого жителя этого города – Пьера Ферма, сына богатого торговца кожей Доминика и его жены Клэр (урожденной де Лонг), происходившей из семьи адвокатов. Есть некоторые сомнения относительно года его рождения (это может быть 1601 или 1607 г.), поскольку у него, возможно, был старший брат, тоже Пьер, который умер молодым. Его отец, помимо всего прочего, был вторым консулом Бомон-де-Ломани – можно сказать, что Ферма родился в весьма политизированной семье. Положение отца практически гарантирует, что Ферма вырос в родном городе, а если это так, то образование он должен был получить в местном францисканском монастыре. Поучившись некоторое время в Университете Тулузы, он отправился в Бордо, где и расцвели его математические способности. Для начала Ферма предложил не слишком уверенную реставрацию трактата On Plane Loci – утраченной работы греческого геометра Аполлония; затем, предвосхищая кое-какие ранние достижения в анализе, написал о поиске максимумов и минимумов. Его юридическая карьера с дипломом Университета Орлеана также была достаточно успешной. В 1631 г. он приобрел для себя пост советника при парламенте Тулузы, позволивший ему прибавить частицу «де» к фамилии. Ферма занимал эту должность в качестве юриста всю оставшуюся жизнь; жил при этом в Тулузе, но работал время от времени в Бомон-де-Ломани и Кастре. Первоначально он был прикреплен к нижней палате парламента, но в 1638 г. был переведен в верхнюю палату, а затем, в 1652 г., поднялся на самую вершину уголовного суда. Отчасти благодаря чуме, унесшей в 1650-е гг. многих старших чиновников, Пьер продолжал подъем по служебной лестнице. В 1653 г. промелькнуло сообщение о том, что Ферма умер от чумы, но (как и в случае Марка Твена) слухи эти оказались несколько преувеличенными. Судя по всему, Ферма, как говорится, откусывал больше, чем мог проглотить; интерес к математике сильно отвлекал его от юридических обязанностей. В одном из документов написано: «Он сильно занят, он не докладывает суду дела как следует и все время путается».

Его «Введение в изучение плоских и пространственных мест» 1629 г. стало новаторским; в нем впервые использовались координаты, позволившие связать геометрию и алгебру. Обычно эту идею приписывают Декарту и его эссе «Геометрия» 1637 г. (приложение к «Рассуждению о методе»), но на самом деле намеки на нее можно найти в гораздо более ранних произведениях, вплоть до древнегреческих. Смысл идеи заключается в использовании двух координатных осей для представления любой точки на плоскости посредством единственной пары чисел (x, y). Сегодня этот метод настолько привычен, что едва ли требует особого обсуждения.

В рассуждении «О касательных к кривым» 1679 г. Ферма находил касательные к различным кривым, то есть занимался геометрической версией дифференциального исчисления. Его метод нахождения максимума и минимума был еще одним предвестником математического анализа. В оптике он сформулировал принцип наименьшего времени: световой луч следует по тому пути, который минимизирует общее время движения. Это был один из первых шагов к вариационному исчислению – области анализа, которая занимается поиском кривых или поверхностей, минимизирующих или максимизирующих некоторую величину. К примеру, какая замкнутая поверхность фиксированного объема имеет наименьшую площадь поверхности? Ответ – сфера; именно поэтому мыльные пузыри имеют сферическую форму, ведь энергия поверхностного натяжения пропорциональна площади поверхности, а пузырь принимает форму, соответствующую минимальной энергии.

В аналогичном ключе Ферма полемизировал с Декартом по поводу закона преломления световых лучей. Декарт, раздраженный, вероятно, тем, что лавры за геометрические координаты достались оппоненту, хотя сам он считал координаты своим изобретением, отозвался критикой в адрес работы Ферма о максимумах, минимумах и касательных. Диспут получился настолько жарким, что в него в качестве арбитра оказался втянут инженер и геометр-новатор Жерар Дезарг. Когда он объявил, что прав Ферма, Декарт неохотно признал: «Если бы вы объяснили это таким образом с самого начала, я бы и возражать не стал».

* * *

Величайшее наследие Ферма относится к теории чисел. В его письмах можно найти множество вызовов для математиков. Среди них предложение доказать, что сумма двух полных кубов не может быть полным кубом; решить уравнение, получившее неудачное название «уравнение Пелля», nx2 + 1 = y2, где n – заданное натуральное число, а найти нужно натуральные числа x и y. Леонард Эйлер ошибочно приписал решение, найденное лордом Брукнером, Джону Пеллю. На самом же деле метод его решения содержится еще в трактате «Брахма-спхута-сиддханта» – «Усовершенствованное учение Брахмы» Брахмагупты, – относящемся к 628 г.

Одна из важнейших и красивейших теорем Ферма говорит о числах, которые можно выразить в виде суммы двух полных квадратов. Альберт Жерар впервые сформулировал утверждение по этой теме в работе, опубликованной посмертно в 1634 г. Ферма первым заявил, что нашел доказательство, написав об этом в письме к Мерсенну в 1640 г. Главное – решить эту задачу для простых чисел. Ответ зависит от типа простого числа в следующем смысле. Единственное четное простое число – 2. Нечетные числа представляют собой либо кратные 4 с добавлением единички, либо кратные 4 с добавлением 3 (то есть имеют вид 4k + 1 или 4k + 3). То же, разумеется, относится и к нечетным простым числам. Ферма доказал, что 2 и все простые числа вида 4k + 1 представляют собой суммы двух квадратов; с другой стороны, простые числа вида 4k + 3 не выражаются через сумму двух квадратов.

Если немного поэкспериментировать, об этом несложно догадаться. К примеру, 13 = 4 + 9 = 22 + 32, и 13 = 4 × 3 + 1. С другой стороны, 7 = 4 × 1 +3 и ясно, что сумма двух квадратов не может равняться 7. Однако доказать теорему Ферма о двух квадратах очень трудно. Простейшая часть – показать, что простые числа вида 4k + 3 не являются суммой двух квадратов; я покажу вам, как это сделать, в главе 10 при помощи фокуса, который Гаусс придумал для систематизации базового метода теории чисел. Показать, что простые числа вида 4k + 1 выражаются в виде суммы двух квадратов, намного сложнее. Доказательство Ферма до нас не дошло, но известны доказательства, сделанные с использованием доступных ему методов. Первое известное нам доказательство дал Эйлер; он объявил о нем в 1747 г., а опубликовал в двух статьях в 1752 и 1755 гг.

Общий вывод таков: натуральное число представляет собой сумму двух квадратов в том, и только том случае, если все простые множители вида 4k + 3 появляются в нем в четных степенях при разложении числа на простые множители. К примеру, 245 = 5 × 72. Множитель 7 имеет вид 4k + 3, но появляется при разложении дважды, то есть входит в число в четной степени; следовательно, 245 представляется в виде суммы двух квадратов. В самом деле, 245 = 142 + 72. Наоборот, 35 = 5 × 7, и множитель 7 появляется здесь лишь однажды, так что 35 не выражается в виде суммы двух квадратов. Этот результат может показаться случайной, ни с чем не связанной диковинкой, но именно от него взяли начало несколько линий исследований, приведшие в конечном итоге к созданию масштабной теории квадратичных форм Гаусса (глава 10). В наше время эту линию рассуждений провели намного дальше. Родственная теорема, доказанная Лагранжем, утверждает, что любое натуральное число представляет собой сумму четырех квадратов (квадрат 0 = 02 разрешен). Это утверждение тоже имеет важные и обширные следствия.

* * *

История Великой теоремы Ферма рассказана многократно и рассказывается по сей день, но я не стану извиняться за то, что расскажу ее еще раз. Это замечательная история. То, что слава Ферма зиждется на теореме, которую он почти наверняка не доказал, можно назвать иронией судьбы. Он заявил, что нашел доказательство, и сегодня мы знаем, что теорема действительно верна, но вердикт истории состоит в том, что методами, доступными ему в то время, доказать ее невозможно. Его утверждение о том, что доказательство найдено, существовало лишь в виде рукописного замечания на полях книги, которая к тому же не уцелела и до нас не дошла; вполне возможно, что оно было сделано преждевременно. В математических исследованиях нередко случается, что, проснувшись поутру, человек уверен, что доказал во сне что-то важное, но к полудню, когда автор находит ошибку, это доказательство испаряется.

Книга, о которой идет речь, – французский перевод «Арифметики» Диофанта, первой значительной работы по теории чисел, если не считать «Начал» Евклида, где изложены многие базовые свойства простых чисел и решены некоторые важные уравнения. В любом случае «Арифметика» – первый специализированный труд на эту тему. Не забывайте, что именно эта книга ввела в математику технический термин «диофантово уравнение» для обозначения полиномиального уравнения, которое следует решать в натуральных или рациональных числах. Диофант составил систематический каталог таких уравнений, и один из центральных образцов его коллекции – уравнение x2 + y2 = z2 для пифагоровых троек, называемых так потому, что треугольник со сторонами x, y и z, по теореме Пифагора, будет прямоугольным. Простейшее решение этого уравнения в ненулевых целых числах – это 32 + 42 = 52, знаменитый треугольник со сторонами 3–4–5. Вообще, решений бесконечное множество: Евклид привел процедуру, позволяющую найти их все; Диофант включил этот метод в свою книгу.

У Ферма имелся экземпляр перевода «Арифметики» на латинский язык, сделанного Клодом Баше де Мезирьяком в 1621 г., и свои замечания к тексту он записывал на полях. По словам сына Ферма Самюэля, Великая теорема была сформулирована как замечание к Вопросу VIII Книги II у Диофанта. Мы знаем об этом потому, что Самюэль издал собственный вариант «Арифметики», включив туда и примечания отца. Даты, когда делались примечания, неизвестны, но известно, что Ферма начал изучать «Арифметику» около 1630 г. Часто приводится дата 1637 г., но это лишь интуитивная оценка. Предполагается, что именно после размышлений о потенциальных обобщениях Пифагоровых треугольников Ферма и написал свою знаменитую маргиналию:

Невозможно поделить куб на два куба, или четвертую степень на две четвертых степени, или, в общем, любую степень выше второй на две такие же степени. Я нашел поистине чудесное доказательство этого, но здешние поля слишком узки, чтобы вместить его.

То есть диофантово уравнение x n + y n = z n не имеет целых решений, если n – целое число, большее или равное трем.

Имеются косвенные свидетельства того, что со временем Ферма отказался от мысли о том, что владеет доказательством. Он имел обыкновение включать свои теоремы в письма в качестве головоломок, которые другим математикам предлагалось решить (и по крайней мере один из них жаловался на чрезмерную сложность заданий). Однако ни в одном из сохранившихся его писем не упоминается эта теорема. Что еще более показательно, Ферма предложил в качестве задач своим корреспондентам два ее частных случая, с кубами и четвертыми степенями. Зачем бы он стал это делать, если бы мог доказать более общий вариант? Он наверняка мог доказать теорему для случая с кубами, и мы знаем, как он доказывал ее для четвертых степеней. Мало того, это доказательство – единственное во всех оставленных им работах и бумагах. В формулировке Ферма это утверждение выглядело так: «Площадь прямоугольного треугольника не может быть квадратом». Очевидно, по замыслу автора эта формулировка должна была вызывать в памяти Пифагоровы тройки. Из Евклидова алгоритма решения диофантовых уравнений легко следует, что эта задача эквивалентна нахождению двух квадратов, дающих в сумме четвертую степень. Если бы решение уравнения x4 + y4 = z4 с показателем степени 4 существовало, то и x4, и y4 были бы квадратами (x2 и y2 соответственно); тогда из утверждения Ферма следует, что такого решения не существует.

Его доказательство было изящно и сделано по тем временам радикально новым методом, который сам он назвал методом бесконечного спуска. Предположим, что решение существует; тогда, применив алгоритм Евклида и немного повозившись, можно прийти к выводу, что существует и еще одно, меньшее решение. Следовательно, говорит Ферма, можно построить бесконечную цепочку решений, которые с каждым шагом будут становиться все меньше и меньше. Поскольку любая нисходящая цепочка такого рода, составленная из положительных целых чисел, в конце концов должна будет закончиться, возникает логическое противоречие. Значит, гипотетическое решение, с предположения о существовании которого мы начали свои рассуждения, не может существовать в действительности.

* * *

Возможно, Ферма намеренно скрывал свои доказательства. Судя по всему, он любил пошутить и ему нравилось помучить собратьев-математиков, представляя им свои изыскания в виде загадок. Его замечание на полях не единственное, в котором объявлялся некий важный результат, а затем следовали извинения за отсутствие доказательств. Декарт считал Ферма фанфароном, а Валлис называл его не иначе как «этот проклятый француз». Как бы то ни было, его тактика – если так и было задумано – работала. После смерти Ферма – да и при его жизни тоже – великие математики считали своим долгом довести до ума и отшлифовать какую-нибудь из головоломок, которые Ферма оставил потомкам. Эйлер, к примеру, объявил, что нашел доказательство теоремы для третьих степеней (сумма двух кубов не может быть кубом) в 1753 г. в письме к своему другу Христиану Гольдбаху. Сегодня мы понимаем, что в его доказательстве имелся пробел, но заполнить его было относительно несложно, так что первое опубликованное доказательство этого случая обычно признают за Эйлером. Адриан-Мари Лежандр доказал Великую теорему для пятых степеней в 1825 г., а Петер Дирихле доказал ее для 14-х степеней в 1832 г. и попытался – неудачно – доказать для седьмых; этот результат, вероятно, можно было бы спасти, если бы автор нацелился на что-нибудь попроще. Габриель Ламе разобрался с седьмыми степенями в 1839 г., а в 1847 г. изложил основные идеи общего доказательства в Парижской академии наук. В его доказательстве был задействован аналог разложения на простые множители для особого типа комплексных чисел.

Сразу же после его выступления встал Жозеф Лиувиль, который указал на возможную ошибку в методе Ламе. Для обычных чисел разложение на простые множители всегда единственно: если оставить в стороне порядок записи множителей, то сделать это можно только одним способом. К примеру, число 60 раскладывается на простые множители как 22 × 3 × 5, и существенно этот набор изменить нельзя. Лиувиль опасался, что для предложенного Ламе класса комплексных чисел факторизация может оказаться не единственной. Со временем его опасения оправдались: впервые это свойство нарушается для 23-х степеней.

Эрнст Куммер сумел спасти эту идею, добавив в смесь новые ингредиенты, которые он назвал «идеальными числами». Эти штуки ведут себя как числа, но числами при этом не являются. При помощи идеальных чисел он доказал Великую теорему Ферма для многих степеней, включая все простые степени до 100, за исключением 37, 59 и 67. К 1993 г. было известно, что Великая теорема Ферма верна для всех степеней вплоть до 4 млн, но это все более отчаянное карабканье вверх не проливало никакого света на общий случай. Новые идеи начали появляться в 1955 г. в связи с работами Ютаки Таниямы, который занимался исследованиями в другой области теории чисел, никак на первый взгляд не связанной с нашей темой, – в области эллиптических кривых. (Название обманчиво, и эллипс тут ни при чем. Эллиптическая кривая – особый тип диофантова уравнения.) Танияма предположил очень интересную связь между этими кривыми и комплексным анализом – теорию модулярных функций. На протяжении многих лет почти никто не верил в его правоту, но постепенно накопилось достаточно свидетельств того, что гипотеза, получившая известность как гипотеза Симуры – Таниямы – Вейля, может оказаться верной.

В 1975 г. Ив Эллегуар обратил внимание на связь между Великой теоремой Ферма и эллиптическими кривыми и предположил, что любой контрпример к этой теореме означал бы существование эллиптической кривой с очень странными свойствами. В двух статьях, опубликованных в 1982 и 1986 гг., Герхард Фрей показал, что эта кривая должна быть настолько странной, что существовать не может в принципе. Из этого утверждения непосредственно следовала бы (от противного) Великая теорема Ферма, если бы Фрей не использовал в своем доказательстве гипотезу Симуры – Таниямы – Вейля, которая сама пока оставалась недоказанной. Однако все эти события убедили многих специалистов по теории чисел в том, что Эллегуар и Фрей стоят на верном пути. Жан-Пьер Серр предсказал, что Великая теорема Ферма будет доказана именно этим способом примерно за десятилетие до того, как это произошло в действительности.

Итоговый шаг сделал Эндрю Уайлс в 1993 г., объявив, что ему удалось доказать особый случай гипотезы Симуры – Таниямы – Вейля, достаточно сильный, чтобы завершить доказательство Великой теоремы Ферма. К несчастью, вскоре в его доказательстве выявился логический пробел, что часто служит прелюдией к полному коллапсу. Уайлсу повезло. Воспользовавшись помощью своего бывшего студента Ричарда Тейлора, он сумел в 1995 г. заполнить этот пробел. Доказательство стало полным.

До сих пор спорят, было ли у Ферма доказательство этой теоремы. Как я уже сказал, косвенные свидетельства уверенно говорят, что не было, поскольку в противном случае он наверняка предложил бы другим математикам найти его. Скорее всего, записывая это утверждение на полях книги, он считал, что имеет доказательство, но позже переменил свое мнение. В том маловероятном случае, если доказательство у него действительно было, оно не могло иметь ничего общего с доказательством Уайлса. Во времена Ферма попросту не было ни необходимых концепций, ни столь же необходимых абстрактных представлений. Это как ждать от Ньютона изобретения ядерного оружия. Тем не менее нельзя исключить, что Ферма нашел все же некий подход, который больше никто не заметил. Такие вещи случаются. Однако никто не сможет отыскать это доказательство, не обладая математическими талантами Пьера де Ферма, а это, поверьте, высокая планка.