남의 떡은 왜 커 보이는 걸까? 아니면 진짜 남의 떡은 큰 것일까?

게임 이론(game theory)에 의하면 남의 떡은 단순히 커 보이는 것이 아니라 진짜 더 크다.

두 개의 돈 봉투가 있다. 한 봉투에 들어있는 돈은 다른 봉투의 두 배이다. 당신이 한 봉투를 선택했더니 1,000만원이 들어있다. 웬 횡재? 라고 생각하다가 잠시 돌이켜보니 다른 봉투가 궁금해진다.

다른 봉투에는 2,000만원이 있든지, 아니면 500만원이 있다. 다른 봉투의 평균 금액은 1,250만원이다. 다시 말해내가 선택한 금액보다 항상 높다. 그래서 나는 배가 아프다. 남의 떡이 항상 크니까.

게임이론을 다룬 책 ‘n분의 1의 함정’은 지금까지 나온 다양한 게임이론을 재미있게 풀어놓았다. n분의 1은 그 중 가장 먼저 설명한 게임이다.

당신을 포함해서 10명이 식당에 간다. 식사비용은 총액을 n분의 1로 나누기로 했다. 그날 따라 당신은 정말 맛있는 최고급 스테이크가 먹고 싶은 유혹을 떨쳐버릴 수 없다. 다른 사람들은 1,2만원에 해당하는 간단한 파스타나 스파게티 또는 햄버거를 주문한다.

당신은 스테이크의 유혹을 견디지 못하고 10만 원짜리 스테이크를 시켰다. 10만 원짜리 스테이크를 2만원에 해결할 욕심이 떠오른다.

돈 잃고 사람도 잃는 n분의 1 함정

그러나 순간 분위기가 싸 해진다. 다른 사람들은 그때까지 시켰던 모든 것을 다 취소하고, 경쟁적으로 메뉴를 바꿔 최고급 꿩고기에 비싼 포도주에 듣도 보도 못한 샐러드 등이 뒤섞인 20~30만 원짜리 코스로 바꿨다. 총액은 순식간에 올라가서 당신은 20만원을 내야 했다. 이것이 바로 n분의 1의 함정이다.

여기에서 끝나지 않는다. 당신의 평판은 나빠진다. 아마도 다시는 이들 친구와 함께 식사할 일이 없어질지 모른다.

게임이론의 종류는 이름만 들어도 구미가 당기게 하는 것들이 적지 않다. 중매쟁이 이론도 그 중 하나이다. ‘뷰티풀 마인드’ 영화에 나온 수학자 존 내시(John Nash)가 젊었을 때였다. 친구들과 술집에 갔는데 금발미녀를 비롯해서 갈색머리 등 여자들이 들어온다. 남자들의 시선은 금발미녀에게 모두 꽂힌다.

이때 내시가 친구들을 설득한다. 모두 금발에게만 접근하면, 금발은 감당하기 어렵기 때문에 딱지를 놓을 것이고, 그러면 다른 갈색머리들도 기분이 나빠져서 딱지를 놓을 것이니 우리는 공멸할거야. 그래서 다른 친구들이 갈색머리에 흩어지고 아무도 금발에게 대시하지 않을 때 내시는 유유히 노마크 찬스로 금발에게 접근해서 성공한다.

게임이론을 흥미로만 지나칠 수 없는 것은 실제 상황에서 매우 유사한 일이 벌어지기 때문일 것이다. 1982년 독일 경제학자 3명이 발표한 최후통첩게임(ultimatum game)도 그 중 하나이다.

서로 모르는 철수와 만수가 한 방에 있다. 주최측은 철수에게 100만원을 주고 만수와 나누라고 지시한다. 얼마를 주는지는 철수 마음대로이다. 다만 만수가 분배방식에 동의를 해야 하고, 동의하지 않으면 두 사람 모두 한 푼도 못 받는다.

한 사람에게는 ‘제안권’이 있고, 다른 사람에게는 ‘거부권’이 있는 것이다. 이 게임에서 중요한 것은 두 사람 모두에게 정보가 공개되어 있다는 점이다. 철수가 20만원을 주겠다고 제안하면, 만수는 “공돈 20만원이 생겼네”라고 경제적으로 판단하지 않는다.

“왜 철수는 80만원을 가져?”라면서 거의 대부분 거절한다. 이 게임은 수학적 경제적으로 해결되지 않고, 분노 정직 질투 정의감 공평 모욕감 등의 심리적 요인으로 해결된다.

아주 소수만이 20%에 못 미치는 금액을 받아들였다. 이 비율이 낮을 때 사람들은 엄청난 모욕감을 느낀다. 기분이 상하는 모욕감을 느끼느니 판을 깨는 게 낫다는 생각이 수학적 경제적 판단을 무력화시킨다.

모욕감에 대한 반응으로 ‘거절’이라는 보복을 할 때 사람들은 짜릿함과 쾌감을 맛 본다.

최후통첩 게임이론의 중심에는 공평함과 정의감이 자리잡고 있다. 최후통첩게임을 좋은 쪽으로 활용하면 효과가 매우 크다. 철수에게 ‘제안권’을 주고, 만수는 거부권 대신 ‘선택권’을 주도록 하는 방식이다. 100만원을 어떻게 나눌 것인지는 철수가 정한다.

만수는 철수가 나눈 것 중 어느 것을 가질 것인지 선택권을 주는 방식이다. 철수는 100만원을 70만원과 30만원으로 나눴다고 하자. 이 중 어느 것을 가질 것인지는 만수가 정하는 식이다. 정상적이라면 만수는 70만원을 가질 것이다.

물론 게임이론은 기본적으로 상대방을 이겨먹으려는 목적을 갖는다. 기본적으로 게임이론은 상대방이 나만큼 똑똑하고, 나보다 더 이기적이며, 자기의 유익을 가장 따진다는 것을 전제로 하고 있다.

게임을 무력화시키는 도덕률    

나를 희생해서 공공의 이익을 높인다든지, 자기 보다 다른 사람에게 도움이 되는 결정을 하는 이타적인 감정은 별로 개입이 되지 않는다. 게임이론은 재미가 있을지 모르지만, 야만적이고 비도덕적인 것이다.

그러므로 게임이론을 사전에 봉쇄하는 방식으로 저자는 칸트의 이성을 꼽았다.

이성은 인간의 이기심이 발동할 근원을 차단함으로써, 당사자들이 복잡하게 머리를 굴릴 기회를 주지 않는다. 칸트가 말한 이성적인 도덕률이 게임이론을 야수들의 정글로 바꾸는 것을 막는 제동장치가 될 것이다. 국가간의 외교나 적대적인 세력사이의 관계설정, 시장쟁탈전을 벌이는 기업 경영에는 도움을 줄 수 있다.

물론, 세상일이 모두 게임처럼 이기고 지고로만 결정되는 것은 별로 없다. 게임이론을 처세술로 삼을 수 없는 이유이다. 게임에는 이기고, 사람을 잃는다면 그렇게 이기는 게임이 과연 그 사람이 성공하는데 무슨 도움을 줄 것인가?