May 25,2019

리만 가설 증명하면 암호체계 뚫릴까

리만 가설과 밀레니엄 수학 난제

인쇄하기 과학기술 넘나들기 스크랩
FacebookTwitter

최근 영국의 수학자 마이클 아티야 박사(Michael Atiyah) 박사가 수학의 난문제 중 하나인 ‘리만 가설(Riemann Hypothesis)’을 증명했다고 해서 화제가 되었다.

아티야 박사는 수학의 노벨상이라 불리는 필즈 메달과 아벨상을 수상하는 등 많은 업적을 낸 원로 수학자이지만, 올해 90세에 가까운 고령이다 보니 수학계에서는 그다지 신뢰하지 않고 해프닝 정도로 보는 이들이 더 많은 듯하다.

최근 리만가설을 증명했다고 주장한 마이클 아티야박사 ⓒ Gert-Martin Greuel

최근 리만가설을 증명했다고 주장한 마이클 아티야박사 ⓒ Gert-Martin Greuel

리만 가설(Riemann hypothesis)이란 19세기 독일의 수학자로 복소함수(複素函數, Functions of complex variable)의 기하학적인 이론의 기초를 닦은 리만(Georg Friedrich Bernhard Riemann, 1826-1866)이 소수(素水)의 패턴에 관해 제기한 가설이다.

리만은 1859년에 발표한 논문에서 1과 그 수 자신으로만 나누어떨어지는 소수들이 일정한 패턴을 가지고 있을 것이라는 학설을 언급했는데, 이는 리만 제타(ζ) 함수라 불리는 복소함수가 0이 되는 값들의 분포에 대한 가설을 의미한다.

즉 “제타 함수(ζ function)의 자명하지 않은(non-trivial) 모든 근들은 실수부가 1/2이다”로 표현된다.

이 가설의 정확한 의미를 알려면 복소함수론 등에 대한 전문적 수학지식이 필요하므로 일반 대중들이 이해하기는 쉽지 않으나, 많은 수학자들이 지대한 관심을 가지고 해결하기 위해 노력해온 유명한 문제이다.

소수 분포에 대한 리만가설을 제안했던 독일의 수학자 리만 ⓒ Free photo

소수 분포에 대한 리만가설을 제안했던 독일의 수학자 리만 ⓒ Free photo

리만 가설은 150년 넘게 미해결 문제로 남게 되면서, 이제는 수학의 대표적 난제 중의 하나가 되었다.

17세기 프랑스의 수학자 페르마(Pierre de Fermat; 1601-1665)가 “나는 놀라운 정리를 발견하여 증명했지만, 지면의 여백이 부족하므로 증명은 생략하겠다.”라고 했던 ‘페르마의 마지막 정리’처럼, 유명한 난제들에는 으레 그럴듯한 일화가 뒤따르게 마련이다.

리만 가설 역시 1866년 리만이 사망한 후 가정부가 집을 정리하면서 그의 연구자료를 모두 불태워버려, 이 가설에 대한 증거나 리만의 관련 연구를 확인할 길이 없게 되었다고 한다.

수학에서 소수 관련 분야는 여전히 미해결 부분들이 적지 않은데, ‘골드바흐의 추측(Goldbach’s conjecture)‘ 역시 유명한 난제이다.

“2보다 큰 모든 짝수는 두 소수의 합으로 표시할 수 있다”는 이 추측은 리만 가설과 달리 초등학생 정도의 수학 상식만 있어도 그 뜻을 이해할 수 있을 것이다.

그러나 수백 년이 지난 오늘날까지도 이를 완벽히 증명한 수학자는 마찬가지로 한 명도 없다.

그런데 “리만 가설이 증명되면 소수의 비밀이 모두 풀릴 것이므로, 현행 암호체계가 모두 뚫려서 큰 혼란이 올 것이다.”라는 ‘암호 괴담’이 떠돌아서 대중들을 불안하게 하는데, 과연 정말일까?

대표적인 컴퓨터 공개키 암호방식으로서 숱하게 사용되는 RSA 암호는 물론 소수와 큰 관련이 있기는 하다.

두 개의 수를 곱하는 것은 쉽지만, 역으로 대단히 큰 자연수를 두 개의 소수로 소인수분해하기는 매우 어렵다는 데에서 착안하여 만들어진 것이다.

암호 풀이를 위한 소인수분해를 설령 컴퓨터로 계산한다고 하더라도 최소 수백년 또는 수만 년 이상의 많은 시간이 걸릴 것이므로, 안전한 암호체계를 구성할 수 있는 것이다.

그런데 리만 가설이 증명되면 소수 분포에 대한 새로운 사실을 제공할 것이라고 보는 사람들이 많지만, 설령 그렇다 하더라도 소인수분해를 실시간으로 매우 빨리 하는 것은 좀 다른 문제이다.

따라서 리만 가설의 증명으로 암호체계가 무용지물이 된다는 괴담은 지나친 비약이라 하겠다.

리만 가설은 미국 클레이수학연구소가 선정한 이른바 ‘밀레니엄 문제-7대 수학 난제’ 중의 하나로도 채택되었다.

미국의 부유한 사업가 클레이(Landon T. Clay)와 수학교수 등이 수학의 발전과 대중화를 위해 설립한 클레이수학연구소(Clay Mathematics Institute, CMI)는 지난 2000년, 수학 분야의 중요한 미해결 문제 7개를 선정하면서 그 해결에 각각 100만 달러씩의 상금을 내건 바 있다.

내비어스톡스방정식과 관련이 있는 유체의 소용돌이현상 ⓒ Free photo

내비어스톡스방정식과 관련이 있는 유체의 소용돌이현상 ⓒ Free photo

이들 7개의 난문제는 각각 다음과 같다.

- ‘P대 NP문제(P vs NP Problem)’

- ‘리만 가설(Riemann Hypothesis)’

- ‘양-밀스 이론과 질량 간극 가설(Yang-Mills and Mass Gap)’

- ‘내비어-스톡스 방정식(Navier-Stokes Equation)’

- ‘푸앵카레 추측(Poincare Conjecture)’

- ‘버치와 스위너톤-다이어 추측(Birch and Swinnerton-Dyer Conjecture)’

- ‘호지 추측(Hodge Conjecture)’

밀레니엄 7대 난제의 하나인 P-NP문제를 설명하는 다이어그램 ⓒ Free photo

밀레니엄 7대 난제의 하나인 P-NP문제를 설명하는 다이어그램 ⓒ Free photo

앞서 언급한 골드바흐의 추측은 왜 밀레니엄 7대 난제에 포함되지 않았는지 의문이 들 수도 있다.

필자의 개인적 생각으로는 수학적 측면뿐 아니라 다른 과학 분야와의 관련성이나 증명 시의 파급효과 등도 고려하지 않았을까 싶다.

즉 P대 NP문제는 컴퓨터 과학에서도 매우 중요한 의미를 지니고, 양-밀스 이론과 질량 간극 가설, 내비어-스톡스 방정식 등은 물리학의 난문제로도 꼽히기 때문이다.

이들 문제에 대해 수학자 중 누군가가 해법을 제시하면 약 2년간의 검증과정을 거치게 되고, 동료 수학자들의 검증을 통하여 해법에 별다른 문제가 발견되지 않으면 상금을 받을 수 있다.

최근 아티야 박사의 경우처럼, 그동안 이들 중 하나를 증명했다는 주장은 심심찮게 나왔지만, 대부분 실수나 해프닝으로 밝혀졌다.

꽤 오래전에 한국인 수학자가 7대 문제 중에 속한 P-NP문제를, 몇년 전에는 국내 원로 물리학자가 양-밀스 이론과 질량간극 가설을 각각 증명했다고 보도되었지만, 근거가 부족한 자가발전이었거나 심각한 오보로 귀결되었다.

위의 난문제 중에서 현재 푸앵카레 추측만이 유일하게 증명이 되었다.

프앵카레 추측을 증명한 러시아의 수학자 페렐만 ⓒ Free photo

프앵카레 추측을 증명한 러시아의 수학자 페렐만 ⓒ Free photo

지난 2002년 러시아의 수학자 페렐만(Grigory Perelman)이 밀레니엄 난제 중의 하나인 푸앵카레 추측에 관한 해법을 제시하고 동료 수학자들의 검증작업을 통해 그의 해법이 인정되었다.

그러나 그는 시골에 은둔하여 곤궁하게 살아가던 처지였음에도 불구하고, 100만 달러의 상금과 필즈 메달 수상을 거부해 화제가 되기도 했다.

의견달기(0)