수학자이자 신비주의자로 활동했던 고대 그리스의 피타고라스(기원전 572~497)는 만물의 원리가 ‘수(數)’로 이루어져 있다고 주장했다. 이 세상 무엇이든 숫자로 표현할 수 있다는 것이다.

피타고라스 학파는 음악도 건축물도 자연생태계도 그리고 밤하늘에 떠 있는 별과 달의 움직임도 모두 수를 이용해 설명하고 표현할 수 있다고 여겼다. 덕분에 ‘수학적 증명’의 개념을 출발시키고 산술학과 기하학을 이용해 누구도 부정할 수 없는 진리의 토대를 세웠다.

그렇다면 수학적 증명의 본질을 이루는 ‘수’는 어떻게 정의하고 설명할 수 있을까. 

2012년 시작된 ‘지식콘서트 카오스(KAOS)’가 올해는 수학의 본질을 파헤치는 연속 강연을 시작했다. 전 세계 수학자 5천여 명이 모여 오는 8월 13일 개막하는 ‘2014 서울 세계수학자대회(ICM)’의 유치를 축하하기 위함이다.

5회로 예정된 ‘수학의 본질’ 강연의 첫 번째 주자는 영국 옥스퍼드대학교의 김민형 교수가 맡았다. 지난 21일 서울 대학로 홍익아트센터에서 열린 김 교수의 강연회 ‘수학의 본질: 수(Number)’에는 700여 명의 학생과 일반인이 참석했다.

‘연산’에 의해 드러나는 ‘수’의 비밀

“수(數)란 무엇일까요? 수를 수학적으로 어떻게 정의할 수 있을까요?”

김 교수의 질문에 객석이 쥐죽은 듯 조용해졌다. 단순하지만 대답하기 쉽지 않은 질문이다. 사전에서는 “사물의 양, 크기, 순서를 세거나 헤아리는 기호”라 설명하기도 하고 “정수, 자연수, 실수, 유리수, 복소수 등으로 나뉜다”고 덧붙이기도 한다. 그러나 수학적인 정의로는 부족하다.

누군가 객석에서 “더하고 곱하고 빼는 것”이라고 대답하자 김민형 교수의 표정이 밝아진다. 수의 특성과 비밀은 ‘연산(operations)’을 통해 드러나기 때문이다.

연산은 흔히들 종이에 숫자를 적어가며 합과 곱을 계산하는 행위로 생각하기 쉽다. 그러나 이외에도 크게 4가지의 연산이 더 있다. △컴퓨터 코드의 연산 △곡선의 연산 △곡면의 연산 △입자의 연산 등이다.

우선 컴퓨터 코드의 연산은 이진법을 기반으로 하는 계산법이다. 0과 1의 두 가지 숫자로 표현되는 이진법에서는 더하기 연산을 할 때 기존의 십진법과는 다른 새로운 규칙이 적용된다. ‘0 더하기 0은 0’, ‘0 더하기 1은 1’, ‘1 더하기 1은 0’이다.

이진법의 곱하기 규칙도 있다. ‘0 곱하기 0은 0’, ‘0 곱하기 1은 1’, ‘1 곱하기 1은 1’이다. 그러나 자릿수가 늘어나면 계산이 복잡해진다. 100101 곱하기 110010은?

이진법을 개발한 사람은 독일의 수학자 겸 철학자 라이프니츠(Gottfried Leibniz, 1646~1716)다. 그러나 컴퓨터를 발명해 본격적으로 이진법을 사용한 것은 얼마 되지 않았으며, 더구나 긴 자릿수의 이진법 코드를 곱하고 더하는 연산법은 최근에서야 가능해졌다.

나머지 연산도 현대 문명의 업적으로 완성되었다. 곡선 상에 위치한 두 점을 더하거나 곱한 값을 해당 곡선 위에 표시하는 ‘곡선 연산법’ 그리고 도넛 형태의 곡면을 더했을 때 그 결과값을 다시 3차원 이미지로 표현하는 ‘곡면 연산법’이 정교해진 것도 최근의 일이다.

연산의 최고봉은 ‘입자 연산법’이라 할 수 있다. 만물을 구성하는 분자와 그보다 작은 원자핵과 전자까지도 계산에 사용 가능하다. 대표적으로는 ‘쌍소멸(pair annihilation)’을 꼽는다.


만물을 컴퓨터로 만들어버린 ‘입자 연산법’

전자(electron) 하나와 양전자(positron) 하나를 충돌시키면 하나의 광자(photon)가 탄생한다. 입자와 반입자가 충돌했을 때 질량이 소멸하면서 그에 해당하는 에너지를 방출하는 것이 쌍소멸 현상이다. 참고로 양전자는 양(+)의 전하를 가짐으로 전자와 반대 성질을 보이는 입자다.

쌍소멸은 입자를 이용해 덧셈 연산을 해서 결과값을 산출하는 일종의 덧셈 계산 프로그램이다. 인터넷에서 ‘파인만 도식(Feynman Diagram)’으로 검색하면 다양한 쌍소멸 계산법을 접할 수 있다.

그렇다면 입자의 곱셈도 가능할까? 양자역학을 설명할 때 자주 사용되는 ‘이중 슬릿 통과 실험’이 해답이다.

두 개의 넓은 칼날을 붙이고 그 간격을 아주 좁게 설정한 장치를 ‘슬릿(slit)’이라 부른다. 하나의 틈새를 가진 슬릿에 광자를 발사하면 그 뒷벽에 넓게 퍼진 자국이 생긴다.

광자가 입자라면 틈새를 빠져나온 입자에 의해 하나의 구멍만이 생기는 것이 정상이다. 자국이 넓게 퍼졌다는 것은 빛이 파동의 형태를 띤다는 의미다. 양자역학의 원리를 설명할 때 자주 사용되는 실험이다.

이번에는 두 개의 슬릿을 겹쳐서 설치한다. 제1슬릿은 틈이 하나, 제2슬릿은 틈이 둘이다. 파동의 형태로 제1슬릿을 빠져나온 광자는 제2슬릿을 지나면서 2개의 파동으로 갈라진다. 그러면 뒷벽에는 2개의 파동이 각각 자국을 남긴다. 이것이 입자의 곱셈 계산법이다.

생물, 무생물 할 것 없이 만물의 기본 요소는 입자로 이루어져 있다. 입자로도 연산이 가능하다면 이 세상 자체가 거대한 컴퓨터 프로그램이라는 상상도 설득력을 얻는다. 이를 이용해 최근에는 ‘정보물리학’이라는 분야도 생겨났다.

결국 수는 무엇일까. 수를 어떻게 정의할 수 있을까. 반복되는 김 교수의 질문에 다른 관객이 해답을 내놓았다.

“모든 것이 수다.”

만물의 원리를 수로 표현했던 피타고라스의 혜안이 맞았던 것이다. 수학은 머릿속 또는 컴퓨터 내부처럼 가상의 세계에 존재하는 것이 아니라 이 세상 자체를 구성하고 진행시키는 기본 원리인 셈이다.

강연 후에는 세계적인 수학자로 살아가는 김민형 교수의 일상과 생각에 대해 이야기를 나누는 토크쇼가 진행되어 관객의 궁금증을 채워주었다. ‘지식콘서트 카오스(KAOS)’는 수학의 본질을 소재로 올해 총 5회에 걸쳐 진행될 예정이다.