February 23,2019

수학 증명에도 ‘직관력’ 필요하다

고등과학원 '수학적 상상력' 강연

FacebookTwitter

“논리에 합당한 것만이 수학을 만듭니다. 그래서 수학에서 모든 증명은 논리적으로 완벽하다고 할 수 있지요. 하지만 논리 자체가 그 증명을 찾는 못한다는 문제가 있습니다.”

지난 23일 ‘분류, 상상, 창조’라는 제목의 초학제 학술대회가 열렸다. 연사로 나서 ‘수학적 상상력’이라는 주제로 발표한 최재경 고등과학원 교수는 “논리가 스스로 자신이 ‘참’임을 증명할 수 없지만 수학적 상상력이 동원되면 이것이 가능하다”고 강조했다.

19세기 대수학자 앙리 푸앵카레(Henri Poincaré)도 “수학자들이 추론을 통해 바른 증명을 찾아내게 하는 힘이 직관력”이라고 말했다. 이는 증명대상 문제의 전체적인 체계를 파악하고 증명에의 길을 찾는데 수학자들이 직관력을 사용한다는 말과 같다고 할 수 있다.

최 교수는 “수학에서의 직관력은 수학적 아름다움을 느끼게도 해 주는 능력”이라면서 “그래서 수학자들은 수와 형태의 조화를 감상하고 기학학적 우아함을 음미할 줄 아는 상상력을 갖고 있다”고 설명했다.

고등과학원의 최재경박사 ⓒ 고등과학원

최재경 고등과학원 교수 ⓒ 고등과학원

상상 속에 존재하는 허구의 수, 음수와 허수

수학의 역사를 살펴보면 수학자들이 상상력을 어떻게 동원해서 문제를 해결했는지 엿볼 수 있다. 유한한 인간이 무한의 개념을 받아들이는 것 역시 직관력이라고 할 수 있다.

매일 아침마다 뜨는 해를 보면서 과거 사람들은 ‘오늘 뜨는 해는 1, 다음날 뜨는 해는 2, 그 다음날은 3…’ 이렇게 표시했다. 그리고 자신들은 죽지만 이 숫자는 끝이 없이 계속된다는 사실을 깨닫게 된다. 이 과정에서 인간들은 무한집합이 존재한다는 무한공리를 약속했다.

그런데 이 무한공리에 상상력이 보태지면서 수학적 귀납법이라는 증명방법 만들어진다. 수학적 귀납법은 수학에서 어떤 명제가 모든 자연수에 대해 ‘참’임을 증명할 때 사용하는 방법이다. 도미노 원리와도 같다. 일정하게 배열된 도미노는 첫 번째 패만 차례로 모두 쓰러진다. 생각을 확장시켜 도미노가 무한하다고 가정한다면 무한한 도미노는 시간차를 두면서 모두 쓰러질 것이라는 예측이 가능하다.

수학적 귀납법도 마찬가지다. 먼저 첫 번째 명제가 ‘참’임이 증명되면 다음 명제도 ‘참’이다. 그럼 이것을 이용하여 무한개의 명제를 증명한다고 해보자. 도미노 패가 쓰러지듯 처음 명제가 ‘참’이기만 하면 순서대로 다음 명제도 ‘참’이게 된다. 단지 순서의 차만 있을 뿐 무한대 있는 그 명제들은 모두 ‘참’이 된다.

수학에서 증명 말고도 상상해야 하는 것들이 있다. ‘상상의 수’들이 그것이다. 세상에는 존재하지 않지만 우리가 인식함으로서 존재하는 수라고 할 수 있다. 최 박사는 ‘음수’를 상상의 수의 첫 번째 예로 들었다.

음수의 개념은 기원 전 2세기 한나라 중국 고대 산술 책인 구장산술에서 처음 나타났다. 이 저서에서는 양수를 빨간 막대기로, 음수를 까만 막대기로 표현했다. 7세기 인도에서도 재산을 나타낼 때는 양수로, 부채를 표시할 때는 음수를 사용했다. 하지만 서양에서는 음수를 ‘허구의 수’라 여겼기 때문에 음수를 받아들이기까지는 꽤 오랜 시간이 필요했다. 미적분을 만든 독일의 수학자 라이프니츠마저 음수를 ‘영보다 작은 터무니없는 수’로 여겼을 정도이니까 말이다.

‘허수’ 역시 상상 속에서 존재하는 수라고 봤다. 데카르트도 허수를 ‘농브르 이마지네르(nombre imaginaire)’ 즉 상상의 수라 불렀다. 지금에야 허수가 물리현상을 표현하는 많은 방정식에서 그 위용을 드러내고 있지만 과거에 허수의 존재를 부정하는 일은 어떻게 보면 당연했다고 볼 수 있다. 실수의 특성상, 제곱하면 무조건 0 또는 양수가 되기 때문이다. 수직선에 모든 실수를 하나하나 대응시키면 빈틈없이 채워지는 것으로 볼 때, 우리가 존재한다고 느낄 수 있는 수는 실수 밖에 없다는 것은 부정할 수 없어서라고 할 수 있다.

최 박사도 “서로 만나지 않는 원과 직선의 교점을 표현하는데 허수가 쓰이지만 16세기 사람들은 이런 교점은 존재하지 않다고 봤기 때문에 허수에 대한 그들의 생각은 이해할 만하다”고 말했다.

허수의 실재성을 증명한 사람은 카를 가우스(Carl Gauß)다. 허수를 ‘복소수’로 새로이 파악하고, 복소수를 ‘복소평면’에 그림으로 보여 줌으로써 사람들이 실재성을 깨닫도록 했다. 그런데 이 ‘복소평면’은 가우스의 상상력에서 나온 창의적인 증명 방법이었다. 사실 ‘복소평면’으로 인해 가우는 허수만이 아니라 복소계수의 대수방정식은 복소수 범위에서 반드시 해가 있다’는 이른바 ‘대수학의 기본 정리’를 빈틈없이 증명했다.

 존재하지만 형태를 볼 수 없는 수, 델타함수

존재하기는 하지만 그 구체적 모습을 볼 수 없는 것들도 있다. 수학 역사상 많은 수학자들을 당황시킨 초함수가 대표적이다.

최 박사는 “1930년에 디락이 물리학적 직관력으로 원점에서 무한대이고 그 외의 점에서는 0이며, 적분 값이 1인 함수인 델타함수를 도입했지만 당시 수학자들은 이를 받아들일 수 없었다”며 “함수라는 것이 무한대의 값을 가질 수 없으며 한 점을 뺀 모든 점에서 0인 함수는 적분 값 또한 0이기 때문에 그런 것이었다”고 언급했다.

분명 당시 수학자들은 델타함수를 조소했지만 물리학자들은 비웃을 수만은 없었었다. 델타함수를 사용하면 항상 옳은 답을 얻어내서였다. 이에 슈바르츠는 다른 함수에 끼치는 델타함수의 영향력에 주목하여 인식론적 접근을 시도했다.

경험론자이자 칸트에게도 커다란 영향을 준 철학자인 버클리는 “물체의 존재란 지각되는 것에 불과하다”고 단언한 적이 있다. 좀 쉽게 풀어보면 우리가 보통 물체라고 부르는 사물은 단지 감각에 의해 우리에 주어진 관념들로 이루어져 있기 때문에 이 관념들을 하나씩 제거하면 나중에 아무것도 남지 않는다는 말이라고 할 수 있다.

델타함수도 결국에 없지만 우리 관념들로 존재하는 수학이다. 형태가 보이지는 않지만 뭔가 지각되는 존재라고 할 수 있다. 그래서 슈바르츠는 지각된 모든 관념들이 모여 생긴 관념다발이라는 개념으로 기존의 함수를 초함수로 새롭게 정의하며 델타함수를 증명해냈다.

최 박사는 “슈바르츠의 정의는 우리는 물체의 본질에는 다가갈 수 없고 감성에 의해 구성되는 현상으로서의 대상만 인식할 수 있다는 칸트의 철학과도 통한다.”며 “이렇게 인식론적 접근을 통해 슈바르츠는 디락의 직관력을 자신만의 새로운 상상력을 통해 모두가 이해할 수 있도록 만들었다”고 말했다.

현재 초함수는 야구공이 타자의 매트에 부딪힐 때 충격을 표시할 수 있게 했다. 뿐만 아니라 초함수의 정의를 이용하면 놀랍게도 초함수의 미분이 가능해지기 때문에 순간이동도 설명이 되어 진다. 델타함수를 미분한 것만큼 충격을 가하면 이론적으로 야구공이 순간이동도 할 수 있다.

최 박사는 “이외도 수학사에서는 로그도 곱하기를 쉬운 더하기로 풀 방법을 찾던 수학자들의 생각에서 나왔고 유클리드 기하학과 다르지만 모순되지 않는 비유클리드 기하학도 이를 증명하는데 수학자들의 직관이 중요했다”며 “이때 동원됐던 수학자들의 직관력은 다른 분야에서 말하는 상상력과 다르지 않다”고 주장했다.

의견달기(0)