도대체 우리나라 과학계에 무슨 일이 일어난 것일까? 교보문고 신간 과학책 코너를 가보면 놀라운 현상을 발견할 수 있다. 하루가 멀다하고 수학에 대한 책들이 쏟아져나온다.

과학서적 코너라고 해 봤자, 다른 코너에 비하면 몇 십 분의 1이 될까 말까 할 만큼 좁기 때문에, 무슨 책이 새로 나왔는지 돌아보는 것은 일도 아니다. 새 책이 나오면 금방 눈에 띈다.

그 좁은 신간 과학책 코너는 지금 수학책들이 점령해 버렸다. 불과 한 두 달 사이에 벌이진 일이다.

그 중 하나가 ‘내가 사랑한 수학’이라는 제목의 수학책이다. 원제는 LOVE & MATH 이다. 번역한 제목이 원어 제목에서 크게 달라지지 않았다.

저자인 에드워드 프렌켈 (Edward Frenkel 1968~ )은 매우 특이한 경력을 가진 수학자이다. 구 소련에서 태어나 뛰어난 수학재능을 발휘했음에도 불구하고, 다만 그가 유대인이라는 이유로 소련 일류 대학에 입학이 교묘하게 거부됐다. 간신히 세계적인 수학저널에 논문이 실리면서 아주 젊은 나이에 세계적인 명성을 얻었지만, 소련에서는 박사 학위를 얻지 못했다.

고교생을 개인지도 해서 수학으로 이끈 교사

그러나 이런 프렌켈에게 놀랍게도 미국 하버드 대학은 손을 내밀어 초청하는 파격을 단행했으니, 그의 수학적 재능이 얼마나 뛰어난지 짐작이 갈 일이다.

물론 복잡한 수학 이야기와 공식이 꽤 깔려있는 전문서적이기는 하지만, 일반 독자에게는 그가 어떻게 수학적 재능을 발견하고 계발했는지 과정이 더 흥미롭다. 잠재력을 깨우친 위대한 몇 몇 스승이 아니었다면 그는 지금쯤 러시아 시베리아의 어느 작은 마을에서 그냥 ~기사가 돼서 평범하게 살고 있을 것이다.

고등학생 때 프렌켈의 수학적 본능을 이끌어낸 과정은 학문의 세계에서 스승이 얼마나 중요한지 다시 한 번 깨닫게 한다. 프렌켈은 인구 15만 명인 작은 산업도시 콜롬나에서 자랐다. 부모님 친구였던 40대의 수학자 페트로프를 만나서 개인지도를 받으면서 그는 수학에 눈이 떴다.

15세때 수학으로 전향할 때의 심정을 프렌켈은 이렇게 썼다.

“학교에서 2차방정식, 미적분학, 유클리드 기하학 등은 배웠다. 모든 수학이 이런 주제에서 벗어나지 않을 것이라고 생각했다. 그러나 페트로프는 완전히 다른 수학의 세계를 엿보게 했다. 나는 즉시 전향했다.”

그 뒤 일주일에 한 번 씩 만나면 스승은 제자에게 읽을 책을 주고, 일주일 뒤 스승과 제자는 그 책에 대해서 밤늦게까지 묻고 토론했다. 사랑에 빠진 것이다.

고교 졸업반이던 1984년 순수 수학을 공부할 모스크바 주립대학 (MGU)에 원서를 넣었지만, 유대인이라 트집잡는 바람에 결국 떨어지고 말았다. 그는 케로신카 대학으로 옮겨 입학했다. 그리고 이렇게 불운한 천재들을 돕는 소그룹을 찾아다니면서 순수수학을 계속 연구했다.

다음 단계에서 프렌켈에게 도움을 준 수학자는 드미트리 푸치스(Dmitry Fuchs) 와 보리스 페이긴(Boris Feigin)이었다. 이 두 선배 수학자를 멘토 삼아 발표한 논문들이 퍼져나가면서 세계의 수학 천재들은 그를 알아보기 시작했다. 그는 한 편으로는 순수수학을 연구하고 한편으로는 병원에서 필요한 응용수학으로 돈을 벌면서 놀랄만한 연구성과를 냈다.

하버드 대학 총장이 21세 수학자에게 초청 편지 보내

소련에서는 도무지 수학자로서 직업을 갖기 어려워질 것이 분명했지만, 그는 1989년 그러니까 고교 졸업 후 불과 5년 만에 깜짝 놀랄 편지를 받는다.

‘프렌켈 박사님께,

수학과의 추천에 따라, 1989년 가을 하버드 상 특별 연구비의 수여자로서 하버드 대학에 방문하시도록 초청합니다.

데릭 보크

하버드대학 총장’

아직 학교에서 받은 박사학위도 없는 21세의 어린 수학자에게 하버드는 알아보고 파격적인 초청장을 보낸 것이다. 수학의 신이 있다면, 수학을 사랑한 젊은이의 일편단심에 보답한 것일까?

이 뒤 부터 프렌켈의 수학 사랑이 어떻게 보답을 받고 꽃을 피우는지 ‘내가 사랑한 수학’은 설명하고 있다. 뛰어난 수학실력에도 불구하고 소련에서 이리저리 채이던 프렌켈은 처음으로 미국 할인 마트점에 가서 놀라기도 하고, 세계적인 수학자들과 원 없이 토론하며 연구에 몰두한다.

잠시 머무르려던 하버드에서 그는 박사학위를 받고 몇 년을 더 연구하다가 도저히 뿌리칠 수 없는 파격적인 제안을 한 UC버클리로 1997년 옮겨 현재 수학과 교수로 있다.

그는 현재 수학의 모든 것을 통일한다는 ‘랭글랜즈 프로그램’ 연구에 매진하고 있다. 그러는 한편으로 수학을 사랑에 비유해서 제작한 영화 Rites of Love and Math를 제작 및 감독도 했다.

그런데 이런 과학책을 읽을 때 마다 정말 궁금해지는 일이 있다. 우리나라의 어린 과학도들은 이런 책을 접하고 있을까? 1,000년도 더 된 판에 박힌 수학지식이 수학의 전부라고 생각해서 지레 포기하는 호기심 많은 어린이들에게, 현대 수학의 그 흥미진진한 호기심의 세계로 안내해 줄 멘토는 과연 필요한 만큼 있을까?

연구실에 틀여 박혀 있지 않고 모든 일에 관심을 가진 어린 프렌켈이 양자물리학의 오묘한 세계에 관심을 가진 것을 발견한 스승 페트로프가 주도면밀하게 인도하지 않았어도 프렌켈은 지금과 같이 세계적인 수학자가 됐을까?

그 많은 궁금증과 의문부호들을 가지고도 어느 누구에게 물어보지도 못하고, 혹은 물어봐도 대답할 사람을 찾지 못한 채 학창시절을 보내는 대한민국의 그 많은 인재들이 갑자기 불쌍해졌다.

수학자가 아닌 독자들에겐 여전히 책에 기록된 수학공식과 개념이 낯설다. 공식이 나오면 건너뛰고 읽는 게 좋다. 어떻게 스승을 만나 교류하면서 유대인 차별을 딛고 미국으로 와서 세계적인 수학자로 우뚝 섰는지 과정만 읽어도 수학의 기쁨을 맛볼 수 있다.