컴퓨터를 발명해 미국이 소련과의 전쟁에서 승리하도록 이바지한 것은 위대한 수학자 폰 노이만이 이룩한 많은 업적 중의 하나에 불과하다.

1956년 초 세계적으로 유명한 수학자 존 폰 노이만의 딸 마리나(Marina)가 약혼자인 로버트 위트먼(Robert Whitman)을 뉴저지에 있는 집으로 데려와 아버지에게 소개했다. 컴퓨터 분야에서 불세출의 선구자이던 폰 노이만은 미래에 사위가 될 그에게 2차 대전이 끝난 지 6년 만에 자신이 직접 만든 전설적인 기계인 매니악(MANIAC: 숫자를 조합해 수학적으로 분석하는 일종의 컴퓨터)을 보여줬다. 그동안 고안된 것 중에서 가장 강력하고 정확한 컴퓨터인 매니악은 1952년 수소폭탄 개발 경쟁에서 미국이 소련을 앞서게 하는데 공헌했고, 현대 컴퓨터 시대의 선구자가 됐다.

열쇠꾸러미를 들고 다니는 수학의 천재

처음에는 프린스턴 연구소(IAS)의 전자컴퓨터 프로젝트 건물 옥상에 이 컴퓨터를 설치했는데 노이만은 맞는 열쇠를 찾느라 열쇠 꾸러미를 더듬는데 많은 시간을 보내기도 했다. 현재 미시건 대학(University of Michigan)에서 경영학 교수로 있는 마리나 위트먼(폰 노이만의 딸)은 “그 분은 항상 많은 열쇠를 만지작거리며 찾곤 했다. 집 열쇠를 비롯해 1929년부터 가지고 있던 스위스 기술연구소 열쇠, 그 외 이런 저런 열쇠 등등 수많은 열쇠 꾸러미 중에서 컴퓨터 열쇠를 찾다가 결국은 못 찾아 문을 열 수 없어서 그 컴퓨터를 보는 것을 포기해야만 했던 적도 있었다”고 회고했다.

그의 지도교수나, 연구소 동료, 친구인 앨버트 아인슈타인(Albert Einstein)처럼 폰 노이만의 건망증은 역사의 물줄기를 바꾼 독보적인 지식인들에게 잘 나타나는 결점인지도 모른다. 1903년 헝가리 부다페스트에서 태어난 폰 노이만은 어릴 때부터 신동이라는 소리를 들었다. 그의 연산 능력을 보면 그가 천재라는 것을 알 수 있었다.

폰 노이만은 어린 나이에 여덟 자리 수를 암산으로 곱하기 할 수도 있었고 어른들과 크릭스피엘(kriegspiel: 체스의 일종)을 해도 늘 이겼다고 한다. 23세 되던 해에 부다페스트 대학(University of Budapest)에서 수학 박사학위를 취득했고 스위스 연방 기술 연구소에서 화학공학 학위를 받았다.

고전경제학을 뒤엎은 ‘제로 섬’의 경제학자

아이러니컬하게도 화학공학은 폰 노이만이 일생을 통해 흥미를 느끼지 못한 과목 중의 하나였다. 베를린 대학과 함부르크 대학에서 한때 교편을 잡은 적도 있다. 그러나 그는 1933년 이후 IAS에서 수학, 양자 물리학, 컴퓨터 과학이라는 세 가지 중요한 분야를 새로 개척했다.

그는 수학이나 컴퓨터뿐만 아니라 경제학에도 뛰어난 재능을 갖고 있었다. 그가 1928년에 출판한 수학에 기초를 둔 ‘게임이론(game theory)’은 냉전 시절 미국과 소련의 관계를 ‘제로섬(zero sum)’으로 규정했다. 이 이론은 기존 아담 스미스(Adam Smith)의 ‘개인의 최대 이익이 곧 전체의 최대 이익’이라는 고전 경제학의 입장을 완전히 뒤엎는 계기가 된다. 맨하탄 프로젝트(2차 대전 당시 미국의 비밀 핵무기 개발 계획)의 구성원으로서, 플루토늄의 내파 비율(implosion rate)에 관한 그의 계산 방식은 원자탄을 개발한 핵 과학자들이 과거 수 차례나 실패한 실험을 교정해 주는 역할을 했다.

그의 진짜 업적은 덧셈, 뺄셈 같은 단순한 선형 문제를 푸는 것을 넘어서 다양한 변수가 포함된 복잡한 수학적 문제들을 계산해 실질적으로 사용 가능한 컴퓨터를 개발한 것이었다. 비록 컴퓨터 과학의 초창기인 1946년에는 별로 주목을 받지 못했다. 폰 노이만이 새로 고안한 컴퓨터를 IAS에 설치하려 한다고 발표했을 때 그의 동료들 모두 자부심을 느낄 수 있었다. 왜냐하면 미국에서 내로라하던 두뇌집단인 프린스턴 대학의 학자들조차도 생각하지 못했던 혁신적인 것이기 때문이다.

폰 노이만의 연구는 주로 미 군부와 연관이 있었다. 연구에 필요한 자금도 군부가 조달했다. 그러나 폰 노이만은 전자두뇌(컴퓨터)의 능력을 정말로 보여주고 싶었다. 컴퓨터 개발에 촉각을 곤두세우고 있던 IBM과 손을 잡게 된 게 우연한 일이 아니다. 폰 노이만은 IBM의 파트타임 고문으로 채용됐다. 여기서 그는 자신의 평소 신념과 지식을 유감없이 발휘했다. 1953년 세계 최초로 대량생산이 가능한 컴퓨터인 ‘IBM 650 자기 드럼 계산기’를 개발했다. 상표명 ‘빅 블루(Big Blue)’라는 이 신형 컴퓨터는 그 해 450대가 팔렸고, 1961년까지 만 해도 컴퓨터 시장에서 80%가 넘는 점유율을 기록했다.

20세기 레오나르드 다 빈치

폰 노이만은 이외에도 물리학 생물학에도 조예가 깊었다. 특히 인공 생명을 이론적으로 연구한 학자다. 그는 생명체를 자기자신을 복제해 번식할 수 있는 시스템으로 보고 순수하게 정보이론적 입장에서 ‘자기복제’가 무엇인가를 연구했다. 다방면의 천재였다.

폰 노이만은 1957년 딸 마리나가 21세 되던 해에 암으로 세상을 떠났다. 오늘날, 그녀는 가끔 부친인 폰 노이만이 좀 더 오래 살았더라면 어떠했을까 하고 생각할 때가 있다. 그녀의 부모가 이혼하면서 ‘마리나가 고교생이 될 때가 되면 부친과 함께 산다’는 약속을 한 점에 대해 다행스럽게 생각한다. 마리나는 부모가 이혼을 했지만 모친도 부친을 그만큼 높이 평가하고 있었다고 회상했다.

혁명적인 컴퓨터 기술개발로 서구진영이 소련을 앞서게 하는데 결정적인 기여를 했고 현대 컴퓨터 시대를 연 선구자였던 폰 노이만은 20세기의 위대한 혁신가다.