지난 10일(목) 오후 4시 청량리 고등과학원(KIAS) 7호관 1층 계단강의실 104석의 좌석이 모두 찼다. 수학계의 노벨상으로 일컬어지는 '필즈메달' 수상자 '에핌 젤마노프(Efim Zelmanov)' 캘리포니아대 교수의 초청 강연이 있었기 때문이다.


한국과학기술한림원(원장 이현구)이 주최한 제 53회 한림석학강연에 초청된 젤마노프 교수는 ‘최신 수학과 사회(Modern Mathematics and the Society’를 연제로 수학의 두 축을 이루고 있는 예술적인 부분과 기술적인 부분이 현대 수학 형성과정에 어떠한 영향을 주고 사회와 어떻게 상호작용했는지에 대해 강연했다.

젤마노프 교수는 “수학의 두 가지 부분은 서로 다르지만 보완적인 특성을 갖고 있다”며 “첫째, 수학은 실용적인 필요에 의해서 발전되어 왔고 응용되고 있다”고 말문을 열었다.

또 “예를 들면 측량, 항해술 등에서 시작한 수학적인 지식은 해석학(analysis) 으로 발전되었다”면서 “현대에 와서도 커뮤니케이션 연구, 영상 처리, 금융 등에서 각각 대수학 (algebra), 푸리에 변환(Fourier transform), 확률 과정(stochastic process) 등의 놀라운 수학적 기술들이 쓰이며 수학은 다른 과학을 기술하는 언어의 역할을 하게 되었다”고 말했다.

아울러, 젤마노프 교수는 “수학의 두 번째 특성으로 수학적인 ‘증명’을 들며 이는 수학의 영혼 또는 심장과 같은 것”이라며 “그 예로써 유클리드의 평행선의 공리와 다른 공리들과의 관계, 또는 5차 방정식의 근의 공식에 관한 문제들은 실용적으로는 중요하지 않아 보이지만 이러한 문제의 증명이 수학의 근본을 이루고 있다”고 역설했다.

“이런 수학의 특징이 수학을 예술과 일맥상통하게 만들었다”고 말한 젤마노프 교수는 “사회에서 수학의 연구에 많은 지원을 하는 것은 이런 수학의 예술적인 면이 실용적인 면과 뗄 수 없는 관계를 이루고 있기 때문이다”고 설명했다.

수학에 대한 사회의 지원이 대량생산 낳아

이어서 젤마노프 교수는 현대 수학의 발전상에 대해 두 가지 관점에서 강연을 이어갔다.

젤마노프 교수는 “첫째는 수학의 빠른 추상화가 이루어 졌다는 점이다”며 “현대 수학의 경우, 지식이라는 숲이 매우 번창해 더 이상 나뭇잎을 보아서는 안돼서 뿌리를 보게 되었다”고 비유했다. 즉, 수학의 중요한 점을 공리(axiom)로 부각시킴으로써 대수(algebra), 환(ring), 다양체(manifold) 등의 추상적인 개념이 생겨났다는 설명.

또 “둘째는 2차 세계대전에 즈음해 암호 이론이 발전하게 되었고, 그 후 수학의 활용 가능성과 중요성을 인식, 사회에서 전례 없는 지원을 하게 되었다”고 말했다.

이를 위해 젤마노프 교수는 아인슈타인 (Einstein), 바알(Weyl), 처칠(Churchill) 등이 남긴 말을 인용, 청중들의 흥미를 끌었다.

젤마노프 교수는 현재에도 헤지 펀드(hedge fund)와 구글 (google) 등의 성공 뒤에는 근본적인 수학 이론이 있음을 자세히 설명하고 특히, 커뮤니케이션 연구에 관한 세 가지 수학의 응용에 대해 많은 시간을 할애하며 설명했다.

첫째는 공개키 암호화 방식 (public key cryptography)으로 갈루아(Galois)에 의해서 발전된 유한체(finite field) 이론이 어떻게 추상적인 수학에서 현대 컴퓨터에 의해 응용 수학으로 바뀌게 되었는지 간단한 계산과 함께 설명했다.

둘째는 오류 정정 부호화(error correcting codes)에 관한 문제로 역시 유한체 위의 선형 공간이라는 추상적인 개념이 매우 중요한 역할을 하고 있음을 보였다. 셋째는 네트워크 설계(network design)에 관한 문제에 대해 그래프 이론과 함께 군(group) 이론 등으로 현대 수학의 깊은 이론들에 응용되고 있음을 설명했다.

젤마노프 교수는 “이렇듯 순수 수학과 응용 수학의 경계가 현대에 와서 점점 모호해 지고 있다”고 지적하고 “이 분야가 자신의 큰 관심 분야일 뿐 아니라 역사적으로도 수학의 새로운 응용분야이기 때문에 매우 흥미롭다”고 말했다.

결론적으로, 젤마노프 교수는 “수학에 대한 사회의 전폭적 지원과 함께 대학에서 수학을 배우고 가르치는 일이 일종의 ‘대량생산(mass production)’이 됐다”고 말하고 “이는 수학의 길고 긴 역사상 전례가 없는 일로 앞으로 새로운 도전과 문제를 낳게 될 것”이라는 견해를 피력했다.

질의응답 시간엔 고등과학원 연구원들의 많은 질문이 쏟아졌다.

“수학은 왜 이렇게 어려운가?”란 질문을 받은 젤마노프 교수는 “수학은 지난 2000년간 항상 어려웠으며 앞으로도 어려울 것을 확신한다”면서 “수학에는 왕도가 없고 힘겨운 노력을 통해서만 결과를 얻을 수 있다”고 강조했다.

“수학이 예술과 같다면 아름다움을 수학적으로 정의할 수 있는가?”란 질문에 대해 그는 “학창 시절 수학자 ‘소볼레프(Sobolev)’에게서 하마는 정의가 필요 없다”란 말을 들었다며 “ 동물원에 가서 보면 하마인 것을 바로 알 수 있기 때문이다”고 응답했다.

그는 또 많은 수학자들이 아름답고 아름답지 않은 것에 대한 분명한 관념을 가지고 있으며 수학자들을 심오한 수학의 세계로 이끄는 것이 바로 수학의 아름다움이라고 설명했다.

강연 내내 젤마노프 교수는 해박한 지식과 함께 유머, 여러 가지 흥미로운 에피소드를 곁들여 자칫 따분하기 쉬운 강연을 재밌게 이끌었다.

강연에 참석한 김도한 대한수학회장은 대한수학회지의 발전 및 2014년 국제수학자대회의 한국 유치에 힘써 온 젤마노프 교수에 대한 감사의 뜻을 전하기도 했다.

‘55년 9월 7일 러시아 하바롭스크에서 태어난 젤마노프 교수는 ’77년에 노보시비르스크 주립 대(Novosibirsk State University)를 졸업하고 ‘85년에 레닌그라드 주립 대( Leningrad State University)서 박사 학위를 받았다.

이후 ‘조르단 대수에 관한 문제’와 ‘제한된 번사이드 문제’ 등 미해결 수학문제를 해결한 공로로 ‘94년 수학계의 노벨상으로 일컬어지는 ‘필즈메달’을 수상했다. 젤마노프 교수는 국제 수학계의 발전에 이바지한 공로를 인정받아 지난 2007년에 한림원 외국인회원으로 선정됐다.