'페르마의 마지막 정리(Fermat's last theorem)'

1 서 론

얼마 전 세상을 떠들썩하게 했던 그레고리 페렐만이라는 사람을 알고 있는가? 그는 바로 푸앵카레의 예상을 증명한 러시아의 수학자이다. 흔히들 수학에서 사람 이름이 있는 정리나 아니면 공식들은 대개 중요하다. 수학자로는 요한 칼 프리드리히 가우스, 레온하르트 오일러 등이 있으며 이들은 여러 공식을 만들고 또 증명을 했다. 그러나 이런 중요한 공식들 중에서 피타고라스의 정리, 롤의 정리, 그 이외의 어떠한 정리들은 초등학교를 거쳐 지금沮?살아오면서 한번쯤은 다 접해 보았거나 아니면 들어는 봤을 것이다. 특히 페르마의 마지막 정리(Fermat's last theorem)에 대해서도 이미 한번쯤은 접해 보았을 사람이 거의 대부분일 것이다. 그러나 정규 과정을 마치고 대학에 들어온 사람들에게 ‘피타고라스의 정리를 증명하라’고 한다면 기억이 나지 않은 사람을 제외하고는 모두가 증명을 할 수 있을 것이다. 그러나 이 페르마의 마지막 정리(Fermat's last theorem)는 대학교 수학과를 마친 사람도 풀 수가 없는 아주 어려운 난이도의 문제이다. 그래서 이번 학술발표에는 페르마의 마지막 정리(Fermat's last theorem)에 대하여 한번 알아보고자한다.

2 본 론

2.1 <<1부>> 피에르 데 페르마 (Pierre de Fermat)

그러면 도대체 페르마는 누구인가? 피에르 데 페르마(1601-1655)는 프랑스 툴루즈 지방의 의원이자 판사였다. 그는 여가 시간에 수학을 공부한 아마추어 수학자였지만, 데카르트(Descartes)와 함께 해석기하와 미적분 분야의 개척자로, 파스칼(Pascal)과 함께 확률론의 창시자로, 그리고 특히 정수론 분야에서는 '현대 정수론의 아버지'로 불리울 만큼 위대한 업적을 남긴 17세기 최고의 수학자 중 한사람으로 여겨지고 있다. 그는 그리스의 디오판투스(Diophantus)가 A.D. 250년 경에 쓴 'Arithmetika'의 라틴어 번역판을 가지고 다니며 시간이 날 때 마다 그 책에 소개된 수많은 미해결문제들에 도전하였으며, 그 중 많은 문제들을 해결하였고 또한 새로운 의문들을 제시하였다. 그는 이 모든 것을 그 책의 여백에 기록하거나, 다른 수학자들에게 보낸 편지에 기록하였다. 그가 죽은 후, 1670년에 그의 아들은 아버지가 들고 다니던 'Arithmetika'의 여백에 쓰여진 내용들을 원문에 추가하여 'Diophantus'라는 제목의 첫번째 유고집을 출판하였고, 1679년에는 다른 수학자들에게 보낸 편지에 기록된 내용들을 모아서 'Varia Opera Mathematica'라는 제목의 두번째 유고집을 출판하였다. 19세기 초반에 이르러, 오일러(Euler), 라그랑쥬(Lagrange), 가우스(Gauss) 등에 의하?페르마가 제기한 수많은 새로운 의문들은 하나만 남기고 모두 해결 되었다. 마지막으로 남은 것이 바로 '페르마의 마지막 정리'이다. 마지막이란 수식어가 붙은 이유는 이 때문인 듯하다.

2.2 <<2부>> 페르마의 마지막 정리(Fermat's last theorem) 도전사

1816 : 프랑스 학술원이 페르마의 마지막 정리(Fermat's last theorem)의 증명에 상금을 걸다. 1820 : 게르마인(Germain)이 (2p+1)도 소수가 되는 소수 p에 대하여 페르마의 마지막 정리(Fermat's last theorem)의 첫번째 경우를 증명하다. 1825 : 디리클레(Dirichlet)와 르장드르(Legendre)가 n = 5인 경우를 증명하다. 1832 : 디리클레가 n = 14인 경우를 증명하다. 1839 : 라메가 n = 7인 경우를 증명하다. 1847 : 라메와 코시가 일반적인 n에 대해 틀린 증명을 발표하다. 1847 : 쿰머(Kummer)가 소수를 정규 소수와 비정규 소수로 분류한 후, n이 정규 소수인 경우를 증명하다. (예를 들어서, 100 이하의 소수 중에서 37, 59, 67 만 빼고는 모두 정규 소수이다.) 1850 : 프랑스 학술원이 페르마의 마지막 정리(Fermat's last theorem)의 증명에 두번째 상금을 걸었다가 취소하고 쿰머에게 상금을 수여하다.(1856) 1857년 p<100일때 쿰머가 증명을 발표했으나 결점이 드러남. 이것을 1920년 반디버가 보완 1908 : 페르마의 마지막 정리(Fermat's last theorem)의 증명에 수여할 'Wolfskehl(볼프스켈) 상'을 제정하다. 1909 : 비이페리히(Wieferich)가 {2^(p-1) -1}/p 가 p의 배수가 아닌 p에 대하여 페르마의 마지막 정리(Fermat's last theorem)의 첫번째 경우를 증명하다. 1920 : 반다이버(Vandiver)가 쿰머의 비정규 소수에 대한 연구를 발전시켰다. 특히, 37, 59, 67의 비정규 소수의 경우를 증명하다. 따라서, 100 이하의 모든 소수에 대하여 페르마의 마지막 정리(Fermat's last theorem)가 증명되다. 1953 : 인케리(Inkeri)가 x^n+yn=z^{n, x<y<z 이면 x>p}(3p-4) 임을 증명하다. 1971 : 브릴라트(Brillhart), 토나시아(Tonascia), 바인버거(Weinburger)가 모든 p<3×10^9에 대하여 페르마의 마지막 정리(Fermat's last theorem)의 첫번째 경우를 증명하다. 1976 : 바그스타프(Wagstaff)가 125,000 이하의 모든 소수에 대하여 증명하다. (최근에는 컴퓨터를 이용하여 4,000,000 이하의 모든 소수에 대하여 증명하였으며, 이것을 이용하면, 페르마의 마지막 정리(Fermat's last theorem)가 틀릴 확률은 1/10^24000000 보다 작음을 보일 수 있다.) 1983 : 폴팅스(Faltings)가 '모델(Mordell)의 예상'을 증명함으로서, n이 4이상인 경우 페르마의 마지막 정리(Fermat's last theorem)에 x, y, z가 서로 소인 정수해가 존재한다면 그러한 해는 유한 개 뿐임을 증명하다. (그는 이 업적으로 1986년 'Fields 메달'을 수상하였다.) 1988 : 미야오카가 틀린 증명을 발표하였다가 취소하다. 1993 : 앤드류 와일즈에 의해 증명됨 1993 : 6월 모순이 발견되어 재검토 1994 : 10월 6일 증명 완료(1998現 오류를 찾지 못함 )

2.3 <<3부>> 페르마의 마지막 정리(Fermat's last theorem)란?

그렇다면 ‘과연 페르마의 마지막 정리(Fermat's last theorem)가 무엇인가?’를 알아야 할 것이다. 페르마는 자신이 지니고 있던 'Arithmetika'의 한 여백에 다음과 같이 기록하고 있다.

■ 페르마의 마지막 정리(Fermat's last theorem) n 이 2 보다 큰 자연수일 때, 방정식 x^{n + y}n = z^n 을 만족하는 양의 정수 x, y, z 는 존재하지 않는다.

물론 우리는 n = 2인 경우에는 무한히 많은 정수해가 존재함을 잘 알고 있다. 그의 기록은 다음과 같이 계속되고 있다.

"... 나는 이러한 사실에 대한 아름다운 증명을 발견하였다. 그러나 이 책의 여백이 너무 좁아서 나의 증명을 다 담을 수가 없다. ..."

이것이 1630년에 쓴 것으로 알려진 유명한 '페르마의 여백기록(marginal notes)'이다. 그가 남긴 다른 위대한 업적들을 감안할 때, 그의 주장을 거짓이라고 일축할 수 없었던 후세 수학자들은 그가 주장하고 있는 명제를 '페르마의 마지막 예상(Conjecture)'이라고 부르는 대신 그가 증명하였음을 인정한다는 의미로 '페르마의 마지막 정리(Theorem)'로 부르고 있다. 실제로 그는 n = 3, 4인 경우의 증명을 다른 곳에 기록하고 있으며, 그가 이들 경우의 증명에서 사용한 방법이 일반적인 n = 5, 6, 7, ...의 경우에도 항상 적용될 것으로 착각했던 것으로 추측하는 사람들도 있다. 그러나 그의 방법은 일반적인 경우에는 적용되지 않는다.

2.4 <<4부>> 도전한 사람들의 흔적

위의 여러 업적들 가운데 쿰머와 폴팅스의 업적에 관하여는 약간의 언급이 추가될 필요가 있기에 간단히 소개만 하겠다.

쿰머(Ernst Kummer, 1810-1893)는 독일의 수학자로 평생을 두고 페르마의 마지막 정리(Fermat's last theorem)에 도전, 처음으로 모든 p에 대한 페르마의 마지막 정리(Fermat's last theorem)의 증명에 접근한 수학자이다. 물론 와일즈의 증명은 그의 방법과는 전혀 다르며, 쿰머의 접근 방법으로 페르마의 마지막 정리(Fermat's last theorem)를 완전히 해결하기에는 한계가 있을 것으로 보인다. 그럼에도 불구하고 쿰머가 페르마의 마지막 정리(Fermat's last theorem)를 해결하기 위하여 평생을 두고 개발한 방법은 '대수적 정수론'이라는 정수의 개념을 확장한 새롭고 중요한 분야의 토대가 되어 수학의 발전에 크게 기여하게 된다.

한편, 1983년 약관 30세의 독일 수학자 폴팅스(Gerd Faltings)는 소위 "종수(genus)가 2 이상인 유리수 계수를 가지는 사영곡선은 유한개의 유리수 해를 가진다"는 유명한 '모델(Lewis Mordell)의 예상'을 증명하였다. 이것이 무슨 뜻이건 간에 이 결과를 페르마의 마지막 정리(Fermat's last theorem)에 적용하면 n>3인 모든 자연수 n에 대하여 곡선 x^n+yn=z^{n 의 종 수는 언제나 3 이상인 것이 알려져 있으므로 x}n+y^n=zn 와 gcd(x, y, z) = 1 를 동시에 만족시키는 정수해가 만약 존재한다면 그러한 정수해는 유한 개 뿐이라는 결론을 얻게 된다. 이것은 놀라운 발견이며 이제 이러한 정수해 x, y, z 중에서 가장 큰 것의 상계를 구해 내거나 혹은 하나의 정수해로 부터 새로운 정수해를 계속해서 만들어 낼 수 있는 방법을 찾아낸다면 페르마의 마지막 정리(Fermat's last theorem)는 해결되는 것이다. 물론 와일즈의 증명은 이러한 방법과는 전혀 다르며, 아직은 아무도 이러한 방법으로 성공하지 못하였다. 한편 이러한 페르마의 마지막 정리(Fermat's last theorem)에의 응용도 폴팅스의 결과의 무수히 많은 응용들 중의 하나에 불과하다는 점에서, 폴팅스의 결과는 와일즈의 결과 보다 더 높이 평가되기도 할 정도로 중요한 업적이다. 결국 폴팅스는 1986년 수학의 'Nobel 상'이라고 할 수 있는 'Fields 메달'을 수상하였다. 'Fields 메달'은 '세계 수학자 회의(ICM -International Congress of Mathematicians)'에서 지난 4년간 가장 우수한 논문을 발표한 40세 미만의 수학자(통상 2명 이상 4명 이하)에게 수여하는 세계 최고 권위의 수학상이다. 그러나 이 정리를 증명한 와일즈는 나이 제한으로 수상을 하지는 못했다.

2.5 <<5부>> 와일즈의 증명 방법

그렇다면 이 정리를 증명한 와일즈는 어떠한 방법으로 증명을 했을까? 그러면 와일즈의 증명이 탄생하기까지의 과정을 간략히 소개하자. 와일즈는 타원곡선을 연구하던 수학자로서, 특히 'Shimura-Taniyama 예상'의 일부를 증명함으로써, 360여년에 걸친 페르마의 마지막 정리(Fermat's last theorem)의 역사에 종지부를 찍었다. 타원곡선은 y2=(x-a)(x-b)(x-c) 꼴의 곡선으로서 타원곡선 이론은 수학의 여러 분야에 걸쳐 다양하게 응용되고 있으며 최근에는 암호학의 응용까지 발전되어 각광을 받고 있다. 'S-T 예상'은 1955년에 처음 제기된 예상으로 ‘모든 타원 곡선(elliptic curve)은 모듈라(modular)이다’는 내용이다. 모듈라에 대하여는 짧은 시간에 간단히 설명할 수 있는 성질의 것이 아니므로 이에 대한 자세한 설명은 생략하기로 한다. 다만 복소평면의 점 (s+ti)들 중에서 t>0인 부분에서 정의된 미분 가능한 복소함수로서 푸리에급수로 표현되었을 때 그 푸리에 계수가 정수론에서 필요로 하는 많은 정보를 가지고 있는 매우 유용한 함수라는 정도로만 알아 두자. 페르마의 마지막 정리(Fermat's last theorem)와는 전혀 관련이 없어 보이는 이 예상이 페르마의 마지막 정리(Fermat's last theorem)와 밀접한 관련이 있을 것으로 생각한 것은 프라이(Gerd Frey)였다. 그는 1980년대 초에, 3 보다 큰 소수 p에 대하여, 방정식 x^p+yp=z^p 이 서로 소인 정수해 (u, v, w)를 가진다면 u 는 3 (mod 4), v는 짝수라고 가정할 수 있으며, 이러한 정수해에 대하여, 프라이 곡선이라고 불리는 타원곡선 y2=x(x-up)(x +vp)를 대응시켰고, 1985년에 또 다른 'Fields 메달' 수상자인 세르(Jean-Pierre Serre)와 함께 'S-T 예상'과 소위 '세르의 e-예상'을 둘 다 증명하면 페르마의 마지막 정리(Fermat's last theorem)가 해결된다는 사실을 밝혀내었다. 그리고 다음해에 리벳(Ken Ribet)이 '세르의 e-예상'을 증명함으로써 프라이곡선에는 모듈라를 대응시킬 수 없음을 알게 되었다. 이제, 'S-T 예상'을 증명하게 되면, 프라이곡선도 타원곡선이므로 모듈라가 대응되어야 하는데, 이는 앞에서의 주장과 서로 모순이 되므로, 프라이곡선은 존재할 수 없게 된다. 그러므로, x^p+yp=z^p 이 서로 소인 정수해 (u, v, w)를 가질 수 없고, 따라서 페르마의 마지막 정리(Fermat's last theorem)가 증명된다. 와일즈는 바로 이 'S-T 예상'의 일부, 즉 페르마의 마지막 정리(Fermat's last theorem)와 관련된 부분을 해결함으로써 페르마의 마지막 정리(Fermat's last theorem)를 정복한 것이다.

타원곡선의 판별식(타원곡선의 y에 0을 대입하여 생기는 x의 서로 다른 세 근 a, b, c의 차이들의 제곱의 곱)을 나누는 각각의 3 보다 큰 소수 q에 대하여, 타원곡선의 서로 다른 세 근 a, b, c 중 정확히 두 개가 (mod q)로 같아질 때, 이러한 타원곡선을 준안정적(semistable)이라고 한다. 프라이곡선의 경우 판별식은 (uvw)^2p 이고 u, v, w가 서로 소이므로 프라이곡선이 준안정적임은 당연하다. q = 2, 3일 때는 정의와 증명이 약간 더 복잡하지만 생략하기로 한다. 와일즈는 1986년 리벳의 결과가 나온 이후부터 7년 동안 준안정적인 타원곡선에는 항상 모듈라를 대응시킬 수 있음을 보이는 연구에 몰두한 끝에 증명에 성공한 것이다. 이것은 'S-T 예상'의 부분적인 증명에 지나지 않으나, 문제가 되는 프라이곡선이 준안정적인 타원곡선이므로 페르마의 마지막 정리(Fermat's last theorem)를 해결하기에는 충분한 결과인 것이다. 와일즈의 증명은 이러한 배경아래 메이저(Mazur), 콜리비긴(Kolyvagin), 루빈(Rubin), 투넬(Tunnel), 랭글랜즈(Langlands), 플락(Flack), 히다(Hida), 테일러(Taylor), 캇츠(Katz), 코오츠(Coates), 그리고 이와사와(Iwasawa) 등의 타원곡선에 관한 최신의 이론들을 총 동원하여 이루어진 금세기 최고의 업적이라고 일컬을 만한 걸작이다.

2.6 <<6부>> 앤드류 와일즈 (Andrew Wiles)는 과연 누구인가?

앤드루 존 와일즈 (Andrew John Wiles, 1953년4월 11일 - )는 영국의 수학자이다. 1974년에 옥스퍼드 대학교에서 학사 학위를 받고 1979년에 케임브리지 대학교에서 코오츠 교수의 지도하에 박사 학위를 받았다. 현재는 프린스턴 대학교의 교수이다. 1994년에 (리처드 테일러의 도움으로) 페르마의 마지막 정리를 증명했다. 수학에서 가장 권위있는 상인 필즈 메달은 나이 40세 미만 조건에 걸려 수상하지 못했으나, 대신 국제 수학자 연맹에서 1998년 기념 은판을 제작해 수여하였다. 엄격하게는 필즈 메달 수상자가 아니지만, 기념 은판을 제작해 수여했다는 사실을 필즈 메달 수상자의 공식 명단에 같이 게재해 주었다.

10살 때 마을의 도서관에서 우연히 만나게 된 페르마의 마지막 정리(Fermat's last theorem)에 매료된 그는 페르마의 마지막 정리(Fermat's last theorem)를 풀기 위하여 본인의 표현에 의하면 진이 빠질 정도로 애를 썼다고 한다. 코오츠는 그런 와일즈에게 꿈에서 깨어나 '주류(mainstream) 수학'을 하도록 충고하였고 와일즈는 그 때부터 코오츠(John Coates)의 지도하에 타원곡선을 연구하기 시작하였다. 프린스톤의 교수가 된 와일즈는 타원곡선 분야의 전문가가 되었다. 물론 'S-T 예상'에도 관심을 가지고 있었다. 'S-T 예상'은 타원곡선 이론에서 가장 중요한 미해결 문제였기 때문이었다. 1986년 어느 날 와일즈는 친구의 집에서 차를 마시던 중에 그 친구로 부터 리벳이 '세르의 e-예상'을 해결하였다는 소식에 접한다. 와일즈는 본인의 표현으로 '전기에 감전된 듯한 느낌'으로 그 날부터 페르마의 마지막 정리(Fermat's last theorem)를 염두에 두고 'S-T 예상'에 도전하였다고 한다. 이미 사라진 줄 알았던 10살 때부터의 꿈이 가슴 깊은 곳에 그대로 간직되어 있었다는 것도 와일즈로서는 새로운 발견이었다. 바로 그 날부터 7년 동안 그는 집에서 아무에게도 알리지 않고 혼자서 연구에 몰두하였다. 페르마의 마지막 정리(Fermat's last theorem)에 도전하고 있다는 사실은 그와 그의 아내만의 비밀이었다. 1993년 1월 그는 증명이 거의 완성되었다는 자신을 가질 수 있었다. 그는 프린스톤의 동료인 캇츠(Nick Katz)에게 이 사실을 알리고 그에게 내용을 설명하기 위하여 강의를 개설하였다. 제목은 '타원곡선 상의 계산'이라는 애매한 것이었다. 아무것도 모르고 수강신청을 했던 학생들은 2-3주가 지나자 모두 수강을 취소하고 강의실에는 와일즈와 캇츠 뿐이었다. 한 학기의 강의가 끝나갈 즈음, 캇츠도 ‘증명의 기본 줄거리에 오류가 없는 듯하다’고 동의하였다. 와일즈는 또 다른 프린스톤의 동료인 사르낙(Sarnak)에게 이 사실을 알리고 검증을 의뢰하였다. 그리고 캠브리지로 날아갔다. 모교에서 열리는 학술회의에서 이 역사적인 발표를 하기 위해서였다. 역사적인 발표가 끝나자 전 세계 수학계가 경악하였다. 어느 정도 예상은 하였지만 그 반응은 예상을 훨씬 뛰어 넘는 가히 폭발적인 것이었다.

사실 코오츠의 말처럼 'S-T 예상'의 일부분에 대한 증명으로 부터 페르마의 마지막 정리(Fermat's last theorem)가 증명될 수 있다는 소식을 접했을 때 타원곡선을 연구하는 대부분의 전문가들은 "페르마의 마지막 정리(Fermat's last theorem)도 해결하지 못하고 있는 마당에 페르마의 마지막 정리(Fermat's last theorem)를 함축적으로 포함하고 있는 것으로 판명된 'S-T 예상'의 증명은 거의 불가능할 것 같다"라는 반응을 보였다. 심지어는 'S-T 예상'을 연구하던 전문가들 조차도 연구를 포기하는 분위기였다. 단 한 사람의 예외가 바로 와일즈였던 것이다. 전세계 수학계의 이목이 집중된 가운데 캇츠로 부터 ‘증명에 약간 미진한 부분이 있는 듯하다’는 연락을 받았다. 쉽게 처리될 줄 알았던 그 부분은 결국 심각한 오류로 판정이 났고 와일즈는 전 세계의 수학자들에게 이러한 사실을 발표한 후 오류의 정정을 위하여 다시 두문불출을 시작하였다. 수줍은 성격의 와일즈로서는 이때가 가장 고통스러운 시간이었다고 고백하고 있다. "처음엔 아무 것도 보이지 않는 깜깜한 방에 들어간 느낌이었다. 벽에, 가구에 부딪치고 넘어지고 하면서 눈이 어둠에 익숙해지기 시작했고, 가구의 위치들이 어렴풋이 파악되면서 어디쯤 스위치가 있을 것이라는 추측이 가능해 지고, 결국 여기저기를 더듬던 끝에 스위치라고 생각되는 것을 건드렸을 때, 전등이 켜지면서 모든 것이 확연히 드러났다." 8년이 넘는 기간 동안의 경험이었다. 수학자뿐만 아니라 모든 연구자가 역사에 기록될 만한 가치 있는 연구 결과를 낳기 위해서는 반드시 거쳐야 하는 고통스러운 과정을 잘 묘사하고 있다. "그것은 수학자로서의 나의 일생에 가장 중요한 순간이었고, 내가 앞으로 무엇을 하더라도 그만큼 중요한 순간은 다시는 없을 것이다." 아마도 바로 그러한 순간이 모든 연구자가 꿈꾸고 바랄 수 있는 최고의 축복이 아닐까? 와일즈는 한 TV 방송과의 인터뷰에서 이 대목을 이야기하면서 당시의 감동이 되살아나는 듯 말을 잇지 못하였다. 'Annals of Mathematics'는 그 후 1년 동안 철저한 검증과정을 거쳐 1995년 5월 그의 논문을 실은 통권 141권의 3호를 발간하였다. 그 목차를 보면 다음과 같다. Andrew Wiles, "Modular elliptic curves and Fermat's Last Theorem" -- 443-451 Richard Taylor, Andrew Wiles, "Ring-theoretic properties of certain Hecke algebras" -- 453-472 단 2편 뿐이다. 앞의 논문은 와일즈의 페르마의 마지막 정리(Fermat's last theorem)증명이고, 나중 것은 처음의 논문에서 발견되었던 잘못된 부분을 보다 일반적인 경우 까지 확장하여 해결한 논문이다. 세계 최고의 권위를 자랑하는 'Annals of Mathematics'가 매우 이례적으로 한 호 전체를 페르마의 마지막 정리(Fermat's last theorem)의 증명만으로 장식함으로써 페르마의 마지막 정리(Fermat's last theorem)의 정복을 기념한 것이다. 한편, 1955년에 타니야마와 함께 'S-T 예상'을 발표했던 시무라는 와일즈가 자신의 예상이 옳았음을 증명했다는 소식을 듣고 "내가 그렇다고 했잖아"라고 농담을 한다. 물론 그나 이미 자살한 타니야마도 처음에 'S-T 예상'을 발표할 때는 그것이 페르마의 마지막 정리(Fermat's last theorem)까지 연결되리라고는 꿈에도 생각하지 못하였을 것이다. 농담을 하면서도 그는 타니야마와의 기억을 회상하며 우울했으리라.

2.7 <<7부>> n=2,3,4 일 때 페르마의 마지막 정리 증명

2.7.1 n=2 : x^2+y^2=z^2

gcd(x, y, z) = d 이면 나누어 줄 수 있으므로, d=1 이라고 해도 상관없다. 이때, gcd(x,y) 는 반드시 z도 나누고 다른 경우에도 마찬가지이므로, x, y, z 가 쌍마다 서로소라고 가정할 수 있다.

x, y 가 홀수이면, mod 4 에 의해 좌변은 2, 우변은 0 이 되므로 불가능. 따라서 x, y 중 하나는 홀수, 다른 하나는 짝수이고, z는 홀수이다. 일반성을 잃지 않고 x는 홀수, y는 짝수라고 하자.

y^2=z2-x^2 (y/2)^2=[{(z+x)/2}2][{(z-x)/2}^2] 이다. 한편, (z+x)/2는 (z-x)/2와 서로소이다. 왜냐하면, 두개의 공약수가 d라고 한다면, 두개를 더한 수 z 역시 d로 나누어 지고, 두개를 뺀 x역시 d로 나누어 지는데 이는 x, z 가 서로소라는 데 모순이다. 따라서 (z+x)=2u^{2 , (z-x)=2v}2 이라고 둘 수 있다. 따라서 z=u^2+v2, x=u^2-v2, y=2uv 이다. 이를 피타고라스의 세수라고 부른다.

2.7.2 n=4 : x^4+y^4=z^4

좀 강화된 조건으로 x^4+y4=z^2 의 해가 없음을 먼저 보이자. 만일 이가 참임이 밝혀지면 x^4+y4=z^{4 는 x}4+y^4=(z2)^2 이 되므로 해가 없음을 쉽게 보일 수 있다. 앞에서와 같은 논증으로 x, y, z를 쌍마다 서로소라고 할 수 있고, 위 식을 만족하는 게 존재한다면, 그 중에서 가장 작은 z를 가지는 경우를 생각해보자. (나중에 z의 최소성에 모순이 생긴다는 것을 보일 것이다.) n=2 인 경우와 마찬가지로 x, y 가 홀이라면 좌변은 mod 4에 의해 2 이므로 만족하는 z가 없다. 따라서 x는 짝, y는 홀이라고 하자. y^4=z4-x^4=(z+x2)(z-x^2) 앞과 비슷하게 z+x^{2, z-x}2 이 서로소임을 확인할 수 있고, 따라서 z+x^2=a4, z-x^2=b4 이라고 할 수 있다. 이제 두개를 빼주면, 2x^2=a4-b^4=(a2+b^2)(a2-b^2) 이 성립하고, a^2+b2, a^2-b2은 서로소이다. mod 4에 비교해보면, a^2+b2=2u^{2, a}2-b^2=v2 이라고 할 수 있다. 이제 a^2=b2+v^2이 성립하므로 피타고라스 세수를 집어 넣으면, a^2=m2+n^{2, b}2=m^2-n2, v^2=2mn 이라고 둘 수 있으며, 이 식을 바로 위에 식 a^2+b2=2u^2에 대입하면, m⁴⁺ⁿ4=u^2 이 성립함을 알 수 있다. 즉, m, n, u도 위 식의 해. 한편 u<z 임은 자명하므로, z의 최소성에 모순이 생긴다. 따라서 x^4+y4=z^2의 0이 아닌 정수해는 존재하지 않는다. 물론, 이를 통해 x^4+y4=z^4 의 해가 존재하지 않음도 확인할 수 있다.

2.7.3 n=3 : x^3+y^3=z^3

이 경우는 앞과는 달리 좀 복잡한 논리를 전개한다. 따라서 몇 개의 보조정리는 증명 없이 그냥 결과만 받아들이도록 하겠다. 개인적으로 증명해 보길 바란다. (약간의 이차잉여의 아이디어가 필요하다.)

역시 만족하는 해가 존재한다고 하고, z의 절대값이 가장 작게 되도록 해를 잡자. 앞의 경우와 마찬가지로 x, y, z 가 쌍마다 서로소라고 가정할 수 있다. 따라서 두개는 홀수이고, 하나는 짝수라고 할 수 있다. 한편 x^3=z3+(-y)^3으로 바꿀 수 있다는 것에 착안하면, x, y 는 홀수, z는 짝수로 둘 수 있다. x=u+v, x=u-v (단, u,v는 서로소) 라고 두자. x^3+y3=z^{3 은 (2u)(u}2+3^2)=z3 으로 바뀐다. z가 짝이므로, 반드시 u는 짝, v는 홀이어야 한다.

다음의 보조정리들은 그 결과만 이해하고 넘어가자. (증명을 해보아도 좋다) 보조정리 1. 모든 3k+1 꼴의 소수 p는 어떤 적당한 a^2+3b2 꼴을 나눈다. 단 a, b는 서로소. 보조정리 2. N=a^2+3b2 인 자연수이고, P=c^2+3d2 인 소수이면, N/P=u^2+3v2 꼴이 된다. (참고, N=a^2+3b2=(c^2+3d2)(u^2+3v2)={(cu+-3dy)^{2}+3{(cv-+du)}2} ) 보조정리 3. N=a^2+3b2 (단, (a,3b)=1) 꼴이면, N의 소인수는 3k+1 꼴의 소수 뿐이다. 보조정리 4. 모든 3k+1꼴의 소수는 a^2+3b2 (단, a,b는 서로소)꼴로 유일하게 표현가능 하다. 보조정리 5. x^2+3y2=n^{3의 해(단, n은 홀수)는 x=u(u}2-9v^{2, y=3v(u}2-v^2)이다. (u,v는 서로소)

이제 원래의 문제로 넘어가자. 먼저 z가 3의 배수가 아니라고 하자. 그럼 2u 와 u^2+3v2의 서로소이므로 2u=4m^{3, u}2+3v²⁼ⁿ3이 성립한다. 물론 여기서 n은 홀수이다. 그럼 보조정리 5에 의해서, u=r(r^2-9s2)=r(r-3s)(r+3s), v=3s(r^2-s2)이다. u, v의 홀짝성에 의해서, r은 짝, s는 홀임을 쉽게 알 수 있고, u=4m^3에서, r=4a^{3, r-3s=b}3, r+3s=c^3이다. 두번째 식과 세번째 식을 각각 더하면, (2a)^3=b3+c^3이 나오고 이는 z의 본래의 식을 만족하고 z>2a임은 자명하므로 z의 최소성에 모순이다.

z가 3의 배수가 아니라고 하자. 그럼 반드시 u 는 3의 배수여야 하고, 이때, v도 3의 배수이면 x, y 가 서로소라는 데 모순이므로 v는 3의 배수가 아니어야 한다. 6u[{3(u/3)^2}+v2]=z^{3이면 6u 와 3(u/3)}2+v^2는 서로소이다. 따라서 u=36m^{3, 3(u/3)}2+v²⁼ⁿ3이고 역시 위의 보조정리 5에 의해, u=9s(r-s)(r+s)=36m^3 (단, r은 홀, s는 짝)이 성립한다. 따라서, s=4a^{3, r+s=b}3, r-s=c^3이므로 위와 비슷하게 하면 (2a)^3+c3=b^3임이 유도가 된다. 역시 z의 최소성에 모순이다. 따라서 x^3+y3=z^3의 0이 아닌 정수해는 존재하지 않는다.

3 결 론

와일즈는 10살때 부터 간직해 온 꿈을 성취하였다. 너무나 멋지게 해냈다. 와일즈 외에는 아무도 가능하다고 생각하지 않았다. 요즈음 같이 너나없이 더 많은 논문을 경쟁적으로 발표하는 분위기 하에서 듣는 와일즈의 쾌거는 그래서 더욱 더 신선한 충격이라 하겠다. 일반 사회에서도 마찬가지이겠지만 학계에서도 뭔가 의미있는 연구결과를 생산해 내기 위해서는 짧지 않은 고통의 과정이 뒤따르게 마련이다. 쉽고 빠르게 생산해 낼 수 있는 연구결과를 선호하는 시각으로는 FLT와 같은 성공 가능성이 희박한 문제에의 도전은 무모한 만용으로 보일 수도 있을 것이다. 그러나 8년 동안 거의 아무 것도 하지 않고 한 문제에만 매달려 고독하고 고통스러운 싸움을 계속하는 대학교수가 있다는 것과 그러한 교수를 지원하는 대학이 있다는 것이 ‘어쩌면 우리와 선진국의 차이가 아닐까?’ 하는 생각을 해본다.

인간의 지적 능력이 이룩한 또 하나의 금자탑을 바라 보면서 앞으로 남은 리만(Riemann) 가설, 푸앵카레(Poincar&eacute;) 예상(그레고리 페렐만이 증명), 골드바하(Goldbach) 예상 등의 또 다른 큰 산들이 정복될 즈음엔 우리 나라 사람들이 끈기와 용기와 재능을 갖춘 훌륭한 수학자로 자라나서 당당한 역할을 감당하고 또 그들이 그러한 큰 산에 오를 수 있도록 격려하고 지원하는 연구 분위기가 우리 나라에도 자리잡게 되기를 기대해 본다.

그러면 와일즈가 해낸 페르마의 마지막 정리 증명과정에서 어떠한 교훈을 얻을 수 있을까?

1. 해결할 수 있다는 자신감이다. 대부분의 사람들이 오류가 발견되는 순간 맥이 빠져서 포기해 버리는 경우가 많다. 2. 연구 내용을 공개해야 한다. 연구자 자신도 그 전까지 누군가가 해왔던 결과에 많은 의존을 하고 있으면서 자기 자신만 공개하지 않고 진행하다가 딴 길로 가는 경우를 많이 보아왔지 않은가. 3. 자신이나 타인의 실패한 경험을 버리지 말아야 한다. A 아니면 B, B아니면 C 하는 식으로 극단으로만 나갈 것이 아니라 A와 B의 사잇길 a, 또는 B와 C의 사잇길 b, 심지어는 a와 b의 사잇길인 c에서 원하는 해답을 찾을 수 있다.

이상으로 세 가지를 얻을수 있으며, 끝으로 리만(Riemann) 가설, 푸앵카레(Poincar&eacute;) 예상(그레고리 페렐만이 증명), 골드바하(Goldbach) 예상을 소개하면서 이야기를 끝맺고자 한다.

리만(Riemann) 가설 : 어떤 복소함수가 0이 되는 값들의 분포에 대한 가설을 말한다. 즉 1과 그 수 자신으로만 나누어 떨어지는 소수(素數:2·3·5·7·11 등)들이 일정한 패턴을 가지고 있다는 가설이다. 리만은 리만의 제타함수를 정의하면서 제타함수의 값이 0이 되는 복소수의 실수부가 모두 1/2일지도 모른다는 가정을 하였는데, 이 가정이 리만 제타함수에 대한 리만의 가설이다. 이를 리만은 'ζ(s)는 s＝x＋iy에 대해서 생각할 때 x＞1/2로 0은 없다'고 정의하였다.

푸앵카레(Poincar&eacute;) 예상 : 3차원에서 두 물체가 특정 성질을 공유하면 두 물체는 같은 것'이라는 이론을 말한다. 미분방정식의 곡면 분류에 관심을 갖던 푸앵카레가 1904년의 논문에서 '단일연결인 3차원 다양체는 구면과 같은 것인가'라는 문제를 제기하면서 비롯되었다. 이 문제는 n차원 다양체까지 확장되었는데, 미국 캘리포니아대학교샌디에이고 분교 교수 스메일(Stephen Smale)이 n=5의 문제를 다양체의 특이점과 곡면 위상의 상태를 나타내는 양(量)의 대응을 이용하여 위상동형임을 밝히는 데 성공했다. 스메일 교수는 그 공적으로 1966년도 필즈상을 수상했다. 1981년에는 같은 대학교 버클리 분교 교수 프리드먼(M.H. Freedman)이 4차원 푸앵카레추측을 해결하여, 1986년도 필즈상을 수상했다. 이 같은 진전은 '수학 문제는 차원이 높아질수록 어려워진다'는 단순한 생각을 뒤엎었다는 점에서도 획기적이었다. 미국의 클레이 수학연구소는 이 문제를 푸는 데 100만 달러의 상금을 걸었고, 2003년 '러시아 태생의 그레고리 페렐만이 미분기하학의 도구를 이용하여 해결했다'는 보고가 발표된 바 있다.

골드바하 예상 (1) : "모든 4 이상의 짝수는 두 개의 소수의 합이다." 이렇게 알기 쉬운 명제가 약 200년 동안 미해결의 상태로 남아 있음이 신기할 정도이다. 참고로 다음의 동치 명제를 증명하여도 된다. 골드바하 예상 (2) : "모든 6 이상의 정수는 세 개의 소수의 합이다."

4 학술 발표 한글 문서 자료

Upload new attachment "페르마의" 마지막 정리.hwp

5 학술 발표 파워 포인트 자료