현대 수학의 난제 가운데 하나를 풀어낸 러시아 천재 수학자 그리고리 페렐만(Grigory Perelman) 박사. 그의 행방이 묘연하다. 그는 그 난제를 해결한 공로로 받게 될 1백만 달러의 상금도 마다한 채 초연히 자취를 감췄다. 그의 천재성은 이러한 기인의 기질과 더불어 신비함을 더해주고 있다. 그러나 그는 최근 늙은 어머니의 연금에 의존해 살아가는 것으로 알려졌다.

페렐만 박사는 3년 전 ‘밀레니엄 7대 난제’ 가운데 하나인 ‘푸엥카레 추측(Poincare Conjecture)’을 증명해 낸 장본인. 세계 수학계는 이 천재 수학자를 애타게 찾고 있는데도 오리무중이라고 뉴욕타임즈(NYT)가 최근 보도했다.

수학의 난제 ‘푸앙카레 추측’을 증명한 천재 수학자

그러나 그의 생활을 유심히 취재한 영국의 일간 텔레그레프지는 천재 수학자 페렐만이 노모의 아파트에 얹혀 살며 노모가 받는 한 달 5만4천원의 연금에 의지해 비참하게 살아가고 있다고 보도했다.

이 신문은 “페렐만은 행복하게 조그마한 아파트에서 모친의 연금으로 살아가고 있으며 세속과는 별 관심이 없고 돈이 없어도 어머니가 받는 연금이면 충분히 생활할 수 있다”고 말한 것으로 보도했다.

“왜 종적을 감췄나?”는 질문에 페렐만 박사는 다음과 같이 대답했다. “나는 언론의 주목을 받을 만한 사람이 아니다. 나의 업적은 전혀 평가받을 만한 가치가 없다. 나는 그저 내가 원하니깐 공부했고 그래서 연구했을 뿐이다. 난 세상 사람이 잘 살고 돈을 버는 데는 관심이 없다. 난 공부하고 싶을 뿐이다.”

그는 22일부터 스페인 마드리드에서 열리는 세계수학자회의(IMU)에서 수학의 노벨상이라고 불리는 ‘필즈 메달(Fields Medal)’ 수상이 유력하지만, 정작 본인은 지금까지 나타나지 않아 주위 사람들을 안타깝게 하고 있다. 그가 이 회의에 갈 것인지는 예상하기 어렵다.

페렐만 박사는 우주의 원리(nature of space)를 설명하는 ‘푸엥카레 추측’을 증명했다고 발표한 후 인터넷에 몇 페이지의 짧은 글을 올렸다. 그리고 미국을 방문해 순회 강연을 가졌다. 그의 강연은 미국을 비롯해 세계 수학계에 회오리바람과 같은 충격을 안겨 주었다. 그러나 러시아로 돌아온 그는 2003년 봄, 한 숲에서 행방이 묘연한 채 자취를 감췄다.

300만 달러 상금도 마다하고 자취 감춰

수학자들은 최근에서야 비로소 그 ‘천재 수학자’의 증명이 맞다는 것을 알게 됐다. 미국 예일 대학과 콜롬비아 대학의 수학자들은 페렐만 박사가 남긴 단서들을 통해 1천 페이지에 달하는 책 3권 분량의 해법을 내놓으면서 “그가 세계 수학계에 기념비적인 업적을 남겼다”고 인정했다.

NYT는 ‘어려운 증명, 어려운 해결사 : 새로운 수학의 신비(Elusive Proof, Elusive Prover: A New Mathematical Mystery)’라는 제목을 통해 많은 분량의 지면을 할애하면서 ‘숨어버린 천재 수학자, 그는 어디 있나’라며 페렐만에 대해 상세하게 보도했다.

‘푸앙카레 추측’이란 “3차원에서 두 물체가 특정 성질을 공유하면 두 물체는 같은 것”이라는 이론이다. 하나의 밀폐된 공간에서 모든 폐곡선이 수축돼 하나의 점이 될 수 있다면 이 공간은 반드시 원구(圓球, sphere)로 변형될 수 있다는 추론이다.

‘푸앙카레 추측’은 위상수학(topology)의 근간(fundamental)이 되는 추론이다. 사물의 형태(shapes)에 무게를 두고 있는 수학의 한 갈래로 때로 기하학으로 취급되기도 한다. 위상수학에서 야구공과 담배, 그리고 토끼의 머리는 같다. 변형에 변형을 거듭하면 결국 구체라는 점에서 동일하다는 것이다.

프랑스의 수학자 앙리 푸앙카레(Henri Poincare)가 1904년 처음 제기한 것으로 102년 동안 풀리지 않던 문제해결의 실마리를 페렐만 박사가 제공해 세계 수학계를 놀라게 한 것. 푸앙카레 추측은 ‘수학의 7대 난제’ 가운데 하나로 미국 MIT의 클레이 수학연구소(The Clay Mathematics Institute)는 이 문제를 푸는 데 100만 달러의 상금을 걸었다.

페렐만은 일찍부터 수학에 대한 천재성을 보였다. 상테페테부르크에서 태어난 그는 16세 때 국제수학올림피아드에 참가해 만점을 받으면서 그 능력을 인정 받았다. 그는 1990년대 초 미국에서 연구원으로 활동하던 당시 스탠포드 등 유명대학에서 교수직을 제의받았으나 모두 뿌리치고 러시아로 돌아왔다.

세속의 이기에 무심한 그는 1996년 유럽수학회가 수여하는 ‘젊은 수학자상’도 사양했다. 피터스부르크에서 박사 학위를 받은 그는 지금까지 러시아의 수학을 대표하는 스테클로프 수학연구소(Steklove Institute of Mathematics)에 몸을 담고 있는 것으로 알려져 있다. “그는 대단히 수줍어하는 성격이라서 사람들을 만나는 것을 부담스럽게 생각한다”고 NYT는 전했다.

수줍음을 많이 타는 은둔의 수학자

한편 ‘수학의 7대 난제’는 2000년 5월 클레이 수학연구소(CMI)가 파리에서 공개적으로 연 회견을 통하여 일곱 개의 미해결 수학 문제를 제시하고 각각에 100만 달러의 현상금을 내걸면서 세간의 이목을 받기 시작했다. 그 문제들은 여러 나라의 수학자들로 이루어진 선정위원회가 오늘날 수학에서 가장 중요하고 어려운 문제라고 선정한 것들이다. 현상 공모 발표는 꽤 큰 반향을 불러일으켜 언론의 관심을 받았다.

총 700만 달러. 문제당 100만 달러이며 공모기간은 무제한이다. 이 상금은 미국인 부호인 랜던 클레이(Landon Clay)에게서 나왔다. 그는 비영리 단체인 클레이 수학연구소(CMI)를 고향인 메사추세스주 케임브리지에 설립했다. 설립목적은 수학 연구를 장려하고 지원하는 것이다. 새로운 천년이 시작되는 2000년에 만들어졌다고 해서 ‘밀레니엄 7대 난제’라고도 하고 클레이가 현상금을 내걸었다고 해서 ‘클레이 7대 난제’라고도 한다. 둘 다 같은 이야기다.

일곱 개의 문제는 CMI 과학자문회가 선발한 국제적으로 유명한 수학자들이 지적했다. 오늘날 수학에서 가장 중요한 미해결 문제를 지적한 내용이다. 대부분의 수학자들도 동의하고 있다. 그 문제들은 수학 주요 분야의 핵심이며 전 세계 최고 수학자들의 노력을 무색하게 한 어려운 문제들이다.

문제선정에 참여한 전문가들 가운데 앤드루 와일스 박사가 있다. 그는 상금이 마련되기 6개월 전 ‘페르마의 마지막 정리’를 증명한 장본인이다. 만일 그가 없었다면 330년이 된 페르마의 마지막 정리 증명 문제 또한 밀레니엄 문제에 포함되었을 것이다. 와일스 박사와 함께 선정에 참여한 전문가로는 자페, 아티야와 테이트, 프랑스의 알랭 콘느, 미국의 에드워드 위튼 등 세계 수학계의 거장들이 모여 있다.

‘7대 난제’ 현상금, 부호 클레이가 내건 것

클레이는 수학자가 아니다. 그는 하버드 대학원에서 영어를 전공했다. 하지만 그는 모교의 수학 교수들은 물론 클레이 수학연구소에도 재정지원을 하는 데 인색하지 않았다. 그가 현재까지 클레이 연구소에 기부한 금액은 9천만 달러에 이르는 것으로 알려져 있다. 이제는 밀레니엄 현상공모까지 지원하고 있다.

클레이는 미국이 아니라 파리에서 현상공모에 대한 발표회를 열었다. 이에 대한 역사가 있다. 정확히 100년 전인 1900년 파리에서 비슷한 사건이 있었다. 당시 파리에서는 제2차 국제수학자 회의가 열렸다. 8월 8일 수학계를 이끌던 독일 수학자 힐베르트(David Hibert)는 초청 강연에서 20세기 수학을 위한 안건들을 제시했다. 강연에서 그는 그가 생각하기에 가장 중요한 미해결 문제 23개를 나열했다. 소위 ‘힐베르트 문제들’이라고 불리게 된 그 문제들은 수학자들을 미래로 이끄는 횃불이었다.

힐베르트가 제시한 문제들 중 소수는 그가 예상했던 것보다 휠씬 쉬웠고 곧바로 해결되었다. 또 일부 문제들은 정확한 대답이 불가능할 만큼 어려웠다. 그러나 대부분의 문제들은 매우 난해한 수학 문제라는 것이 밝혀졌다. ‘힐베르트 문제들’ 중 하나를 푼 사람은 수학자 사회에서 노벨상에 결코 뒤지지 않는 명성을 얻었다. 문제를 푼 수학자들은 노벨상 수상자처럼 성취의 보상을 얻기 위해서 여러 해를 기다릴 필요가 없었다. 해답이 옳다면 바로 영광과 포상이 주어졌다.

2000년까지 ‘힐베르트 문제들’은 하나만 제외하고 모두 해결되었다. 그래서 수학자들에게 새로운 과제를 부여할 때가 온 것이다. 클레이가 프랑스에서 ‘수학의 7대 난제’에 현상금을 건다고 발표한 것은 이 때문이다. 밀레니엄을 마감하는 시점에서 최대의 문제들은 무엇일까? 모든 사람들이 수학계의 에베레스트 산이라고 인정한 미해결 문제들은 어떤 것들일까?

- 수학의 7대 난제 -

1. P vs NP Problem(P 대 NP 문제)

이 문제는 밀레니엄 문제들 중에서 유일하게 컴퓨터와 관련된 문제이다. 많은 사람들은 이를 의아하게 여길 것이다. "요새는 수학 연구를 대부분 컴퓨터로 하잖아?"라고 반문할 것이다. 정말 그럴까? 아니다. 실상은 그렇지 않다. 물론 맞는 말이기도 하다. 대부분의 수치 계산은 컴퓨터에 의해서 수행된다. 그러나 수치 계산은 수학의 작은 부분에 불과하며 핵심적인 부분이 아니다.

전자 컴퓨터는 수학에서 나왔지만 컴퓨터를 위해서 필요한 수학의 마지막 단계는 최초의 컴퓨터가 제작되기 수년 전인 1930년대에 완성되었다. 지금까지 컴퓨터 세계에서 발생한, 세상에서 가장 중요하다고 인정할 만한 수학적 문제는 단 두 개에 불과하다. 그 두 문제는 계산기계라기보다는 개념적 처리과정으로 이해된 컴퓨터와 관련된다.

물론 이런 이해가 실제 계산에 대해서 중요한 함축을 가질 가능성은 열려 있다. 두 문제 중 하나는 헬베르트의 1900년 문제 목록에 들어있다. 그 문제(특정한 방정식들은 컴퓨터로 풀 수 없음을 증명하라는 문제)는 1970년에 해결되었다.

다른 한 문제는 더 최근에 제기되었다. 그 문제는 컴퓨터가 얼마나 과제들을 효율적으로 해결할 수 있는지와 관련된다. 컴퓨터 과학자들은 계산 과제들을 두 개의 주요 범위로 분류한다. P형 과제는 컴퓨터를 통해서 효율적으로 해결할 수 있다.

E형 과제는 컴퓨터로 완수하려면 100만년 이상이 걸릴 수도 있다. 안타깝게도 공업이나 상업에서 발생하는 주요 계산 과제들은 대부분 세 번째 문제인 NP형에 속한다. NP형은 P형과 E형의 중간인 것처럼 보인다. 정말 그럴까? NP형 과제가 실은 변형된 P형 과제인 것은 아닐까? 대부분의 전문가들은 NP와 P가 다르다고 믿는다. 즉 NP형 계산과제는 P형 계산과제와 다르다고 믿는 거다. 그러나 30년에 걸친 노력에도 불구하고 NP가 P와 같은지의 여부는 증명되지 않았다. 이 문제의 해결은 공업, 상업, 그리고 인터넷을 비롯한 전자통신에 커다란 영향을 끼칠 것이다.

2. Poincare Conjecture(푸엥카레 추측)

거의 한 세기 전 프랑스 수학자 푸엥카레가 처음 제시한 이 문제는 다음과 같은 간단해 보이는 질문에서 시작된다. 사과와 도넛을 어떻게 구별할 수 있을까? 정말이지 이 질문은 100만 달러의 상금과는 거리가 먼 질문으로 보인다. 하지만 이 질문은 어렵다. 왜냐하면 푸엥카레가 보다 일반적인 경우들에 적용될 수 있는 수학적 해답을 요구했기 때문이다. 그 요구 때문에 한 입 먹어보면 알지 않느냐는 자명한 해답은 해당되지 않는다.

푸엥카레 자신이 제시한 해답을 알아보자. 만일 당신이 사과 표면에 고무 밴드를 늘여놓았다면, 당신은 그 밴드를 천천히 움직여서 한 점이 되도록 축소시킬 수 있다. 고무 밴드를 자를 필요도 없고, 표면을 떠날 필요도 없다. 반면에 도넛 둘레를 한 바퀴 감도록 고무 밴드를 늘여놓았다고 해보자. 이 경우에는 고무 밴드나 도넛을 자르지 않는 한, 고무 밴드를 한 점으로 축소시킬 방법이 없다. 축소되는 밴드를 이용한 이 구분법을 사과와 도넛의 5차원 변양태에서도 적용할 수 있을까? 푸엥카레가 묻는 질문이 바로 이것이다. 놀랍게도 아직 아무도 이 질문에 답하지 못했다. ‘바람과 함께 사라진’ 천재과학자 페렐만이 열쇠를 제공했다. 푸엥카레 추측에 따르면, 고무 밴드 발상을 이용해서 4차원 사과를 식별할 수 있다.

이 문제는 현대 수학에서 가장 흥미로운 분야인 위상수학의 핵심이기도 하다. 위상학은 그 자체로 흥미롭고 때로는 기발한 발상으로 수학자들을 사로잡고 있다. 예를 들어 위상학은 도넛과 커피 잔이 심층적이고 근본적인 관점에서는 동일하다고 말한다. 수학의 여러 분야들과 관계된다. 위상학의 발전은 컴퓨터 칩을 비롯한 전자부품의 설계와 생산, 운송, 뇌 연구, 심지어 영화산업에도 영향을 끼친다.

3. Navier-Stokes Equation(내비어-스톡스 방정식)

내비어-스톡스 방정식들은 배의 몸통 주위를 흐르는 물이나 비행기 날개 위로 흐르는 공기 같은 유체와 기체의 흐름을 기술한다. 그 방정식들은 수학자들이 말하는 이른바 편미분방정식이다. 과학이나 공학을 전공하는 대학생들은 의례적으로 편미분 방정식의 해법을 배운다. 내비어-스톡스 방정식들은 외관상 대학 미적분 교과서에 나오는 편미분방정식 연습 문제와 다르지 않게 보인다. 오늘날까지 그 누구도 내비어-스톡스 방정식 해법의 공식을 찾을 단서조차 발견하지 못했다. 그런 공식의 존재 여부조차 밝혀지지 않았다.

이 실패에 아랑곳하지 않고 해양 공학자들은 효율적인 배를 설계하고, 항공 공학자들은 우수한 비행기를 설계한다. 내비어-스톡스 방정식을 푸는 일반 공식은 없지만, 컴퓨터를 이용하여 특정 형태의 방정식들에 대한 근사한 해법을 구하는 것은 가능하기 때문이다. 양-밀스 문제와 마찬가지로 내비어-스톡스 문제 역시 수학이 다른 분야를 따라잡아야 한다고 요구한다. 이 문제의 경우에는 공학자들이 이미 하고 있는 일을 수학이 따라잡아야 한다.

따라잡는다는 표현이 그릇된 인상을 줄지도 모르겠다. 수학은 본성이 원래 추상적이기 때문에 현상을 수학적으로 이해한다는 것은 일반적으로 가장 깊고 확실하게 이해한다는 것이다. 또한 무엇인가를 더 깊게 이해하면, 그것을 더 잘 이용할 수 있다. 질량 간극 가설의 증명이 물리학에 획기적인 발전을 가져온 것과 마찬가지로, 내비어-스톡스 방정식 풀이는 해양 및 항공공학의 발전을 가져올 것이 분명하다.

4. Riemann Hypothesis(리만 가설)

이 문제는 1900년 힐베르트가 제시한 문제들 중 미해결로 남아 있는 유일한 문제이다. 이 기묘한 형태의 문제가 수학의 미해결 문제들 중 가장 중요한 문제라는 것에 대해 전 세계 수학자 대부분이 동의한다.

이 문제는 1859년 독일 수학자 리만에 의해서 처음 제기되었다. 리만은 다음과 같은 오랜 수학적 질문에 대한 답을 추구하고 있었다. 소수들이 무엇인가 패턴을 가지고 있을까? 기원전 350년경 유명한 그리스 수학자 유클리드는 소수가 영원히 계속된다는 것을, 즉 무한히 많이 소수가 존재한다는 것을 증명했다. 더 나아가 실제로 소수를 나열해보면 수가 커질수록 소수가 점점 ‘엷어져서’ 드물게 나타나는 듯이 보인다.

하지만 소수에 관해서 이 이상의 이야기를 할 수 있을까? 사실상 할 수 있다. 리만 가설이 증명된다면, 소수와 소수의 분포에 관한 우리의 지식이 발전할 것이다. 또한 그 증명은 수학자들의 호기심을 만족시키는 것 이상의 결과를 가져올 것이다. 그 증명은 물리학과 현대 통신기술에도 응용될 것이다.

5. Hodge Conjecture(호지 추측)

이 문제는 현재 위상학에 결여된 또 하나의 조각이다. 이 일반적인 문제는 어떻게 단순한 대상들로부터 복잡한 수학적 대상을 구성할 수 있는지와 관련된다. 이 문제는 아마도 밀레니엄 문제들 중에서 일반인이 이해하기가 가장 어려운 문제일 것이다.

호지 추측을 향한 길은 20세기 전반기에 수학자들이 복잡한 대상들의 모양을 탐구하는 강력한 방법을 발견하면서 열렸다. 그 방법의 기반에 있는 발상은 주어진 대상의 모양을 단순한 기하학적 벽돌들을 짜맞춤으로써 어느 정도까지 근사치로 접근할 수 있는지를 묻는 것이었다. 그 방법은 매우 유용했고 여러 방식으로 일반화되었다.

수학자들은 그 방법들을 발전시켜 강력한 기법들을 만들어냈다, 결국 많은 다양한 종류의 대상들을 나열한 목록에 도달했다. 하지만 불행하게도 기법들이 일반화되는 과정에서 기하학적 근원이 흐려졌다. 수학자들은 기하학적 해석이 전혀 없는 대상들도 목록에 포함시켜야 했다.

6. Birch and Swinnerton-Dyer Conjecture(버츠와 스위너톤-다이어 추측)

이 문제에서 우리는 다시 리만 가설에서와 마찬가지로 일반적인 수학 영역으로 돌아오게 된다. 고대 그리스 시대 이래 수학자들은 다음과 같은 유형의 대수 방정식의 모든 정수해를 기술하는 문제를 놓고 씨름해 왔다.

x² + y² = z²

이 특정한 방정식에 대해서는 유클리드가 완벽한 해답을 제시했다. 즉 모든 해들을 산출하는 공식을 제시했다. 1944년 와일스는 2보다 큰 임의의 지수n에 대해서 방정식 xⁿ + yⁿ = zⁿ이 0이 아닌 정수해를 가지지 않음을 증명했다. 이 결론이 페르마의 마지막 정리이다. 그러나 더 복잡한 방적식들에 대해서는 정수해가 있는지, 혹은 어떤 정수해가 있는지를 밝혀내기가 매우 어렵다. 버치와 스위너톤-다이어 추측은 그 난해한 방정식들 중 한 유형에 대해서 가능한 해석에 관한 정보를 제시한다.

이 문제는 리만 가설과 관련이 있으며, 이 문제가 해결된다면 소수에 대한 우리의 전반적인 이해에 도움이 될 것이다. 이 문제의 해결이 리만 가설 증명처럼 수학 이외의 영역에도 영향을 미칠지 여부는 불분명하다. 버치와 스위너톤-다이어 추측 증명은 수학자에게만 국한된 관심사로 판명될지도 모른다.

7. Yang-Mills and Mass Gap(양-밀스 이론과 질량 간극 가설)

수학의 새로운 발전을 위한 계기는 상당 부분 과학, 특히 물리학으로부터 주어진다. 예를 들면 수학자 뉴턴과 라이프니츠가 17세기에 미적분학을 발명한 동기는 물리학을 위한 것이었다. 미적분학은 연속운동을 수학적으로 엄밀하게 기술하는 방법을 제공함으로써 과학에 혁명을 일으켰다.

그러나 미적분학의 기반을 이루는 수학이 제대로 완성되기까지는 약 250년이 더 필요했다. 지난 반세기 정도에 걸쳐서 개발된 물리학 이론과 관련해서 유사한 상황이 벌어지고 있다. 이 일곱 번째 밀레니엄 문제는 수학자들에게 물리학을 따라잡을 것을 요구한다.

양-밀스 방정식들은 양자물리학에서 나왔다. 그 방정식들은 지금으로부터 거의 50년 전에 물리학자 양전닝과 로버트 밀스가 중력을 제외한 자연의 힘들을 기술하기 위해서 공식화했다. 그 방정식들은 훌륭한 성과를 거두었다.

그러나 양-밀스 이론은 아직 수학적으로 완성되지 않았다. 일곱 번째 밀레니엄 문제가 요구하는 것 중 하나는 ‘그 이론을 공리로부터 출발해서 수학적으로 전개하라’는 것이다. 요구되는 수학적 이론은 실험실에서 관찰된 여러 조건에 부합돼야 한다. 특히 그 이론은 ‘질량 간극 가설’을 수학적으로 입증해야 한다.

대부분의 물리학자들은 이 가설을 받아들여 전자가 질량을 가지는 이유를 설명한다. 질량 간극 가설을 증명할 수 있는지의 여부는 양-밀스 이론을 올바르게 수학적으로 전개했는지 여부를 판가름할 수 있는 좋은 시험기준이라고 여겨진다. 그들 역시 전자가 왜 질량을 가지는지 엄밀하게 설명하지 못하고 있다.