수학은 인간의 이성이 결집된 산물이다. 모든 과학의 기초가 되는 학문이며, 다양한 분야에 활용되고 있다. 하지만 수학은 응용과학과는 달리 미리 무엇을 연구하겠다고 정해놓고 시작하는 학문이 아니다. 순수한 학문적 호기심에서 이룩한 연구 결과가 다른 과학이론이나 실생활에 큰 영향을 미친다.

상대성이론의 기반이 된 리만기하학 같은 경우가 좋은 예다. 순수한 수학적 호기심을 해결하려다 나온 리만기하학이 아니었다면 아인슈타인은 상대성이론을 구상조차 못했을 정도다. 때문에 수학에는 오랫동안 풀리지 않고 전해오는 난제들이 유난히 많다.

그 중 20여 년 동안 전 세계 수학자들이 풀지 못했던 K3 곡면이라는 4차원 도형에 관한 난제를 우리나라 수학자가 마침내 풀었다. 주인공은 고등과학원 수학부장으로 재직 중인 금종해 교수(49).

1980년대 중반 일본 쿄토대 수리과학연구소 무카이 교수는 복소수체에서 정의된 K3 곡면의 대칭성에 관한 문제를 해결했다. 그러나 유한체에서 정의된 K3 곡면에 대해서는 지난 20여 년간 아무도 해결하지 못한 채 난제로 남아 있었던 것. 이번에 금 교수가 미국 미시간대의 돌가쳅 교수와 공동으로 마침내 그 문제를 세계에서 처음으로 풀었다.

금 교수는 그 연구결과를 작년 2월 수학계의 저명 학술지 ‘Annals of Mathematics’에 제출하여 올해 1월에 게재결정 통보를 받았다. 수학 연구결과는 톱 저널의 경우 특히 검증기간이 길기 때문에 논문이 게재되는 시점은 올 연말경이 될 것으로 예상된다.

“한번 집중하기 시작하면 다른 일은 다 접어두고 그 문제와 씨름을 합니다. 친구도 안 만나고 좋아하는 운동도 그 동안만은 접어두는 거죠. 꿈에도 그 문제가 나올 정도인데, 그러다 어느 순간 갑자기 아이디어가 떠오르곤 합니다.”

이렇게 한 문제에 매달리면 부인도 미리 눈치 채고 집에서 말을 걸지 않는다는 금 교수의 전공 분야는 대수기하학. 도형의 생김새를 연구하는 기하학 중에서도 방정식으로 정의되는 도형의 성질을 연구하는 분야가 대수기하학이다.

그렇게 복잡하고 별 필요할 것 같지 않은 학문에 왜 매달리느냐고 혹시 의아해하는 사람이 있을지 모른다. 하지만 이런 순수 수학이론의 연구가 실응용분야에서 정말 큰 역할을 하는 경우가 많다는 게 금 교수의 설명이다.

예를 들면 요즘 정보통신에서 이용되는 코드이론도 순수 수학의 좋은 응용 사례다. 통신을 이용해서 정보를 전송할 때 긴 파일은 간혹 중간에 정보가 망가질 수 있다. 이렇게 한번 망가진 정보는 복구할 수 없다. 그러나 그 정보를 수학적인 구조에 실어서 보내면 복구가 가능하다. 부분적으로 망가진 정보를 전체적인 수학적 체계에 의해 다시 살려낼 수 있기 때문이다.

실제로 1971년 화성 탐사선 마리너 2호가 지구로 전송한 수많은 사진 자료들도 코드이론을 사용했기 때문에 망가진 정보들의 복구가 가능했다.

“요즘 국내 수학계가 정말 강해졌다는 걸 느낍니다. 고등과학원만 해도 예전에는 외국 박사 출신 연구원들이 많았지만 요즘엔 국내 박사 출신들이 더 많습니다. 연구의 질에서도 국내 박사와 외국 박사의 차이가 거의 없다고 봅니다.”

우리나라 과학계의 발전상에 대해 공감하는 금 교수도 아쉬운 부분은 있다. 미국의 명문 사립대들은 모두 기초 학문이 강한 것으로 유명하다. 학교 측에서 기초 학문을 중요하게 여기고 관련 학과를 육성한다. 그러나 우리나라는 정반대 분위기다. 기초 학문은 어렵기만 하고 장래성이 없다고 외면 받고 있기 때문. 그러나 세계 일류국가가 되려면 보통국가가 못하는 것을 반드시 해야만 한다. 이런 면에서 볼 때 국내 과학계가 앞으로 더 발전하기 위해선 전 사회적인 지원이 필요하다는 게 금 교수의 생각이다.

수학자의 자질을 묻는 질문에서 금 교수는 우선 “ 흔히 수학자는 계산 잘하는 사람이라고 생각하는데 아이디어가 제일 중요하다”고 강조한다. 그리고 잠시 후 금 교수는 거기에 마지막으로 한마디 덧붙였다.

“무엇보다 끈기가 제일 중요하다고 생각합니다. 저도 K3 곡면 문제를 해결하는 데 꼬박 10년이 걸렸습니다.”