게임 참여자가 다른 참여자들이 작전을 변경하지 않을 때 자기만 작전을 변경해도 더 이익을 보지 못할 때, 이 게임은 내쉬 평형상태(Nash equilibrium)에 있다고 한다. 수학자 존 내쉬(John Nash)는 모든 유한 게임에는 이런 평형(equilibrium)이 반드시 존재한다는 것을 수학적으로 증명하여 1994년 노벨 경제학상을 받았다.
그런데 지금 이 순간 과연 모든 사람에게 각각 최선의 길이 있을까? 그 모든 길이 동시에 존재할 수 있을까? 이는 종교적인 질문이기도 하다. 여러 사람의 최선의 영적인 길들이 동시에 존재할 수 있을까? 혹시 나의 최선의 영적인 길이 다른 사람들이 최선의 영적인 길들을 막는 것은 아닐까? 종교는 그렇지 않다는 걸 가정으로 한다. 하지만 세속의 길은 다르다. 예를 들어 사슴·물소 등 초식동물의 장생불사는 사자·호랑이의 멸종을 의미한다. 한쪽이 이익을 보면 다른 쪽이 손해를 보는 일종의 제로섬 경기이다. 세속의 길은 ‘제로섬 경기’이고, 영적인 길은 ‘포지티브섬 게임’이다. 즉, 게임 참가자들의 이익과 손해를 모두 더하면 양(陽)이다. 다시 말해, 개인에 따라서는 손해도 발생하지만, 집단에게 더 이롭다. 집단적으로 일어나는 일은 집단적으로 분석할 수밖에 없다. 그게 게임이론이다.
불교는 무아론(無我論)을 핵심교리로 하나 가아(假我)를 인정한다. 가아는 확장과 축소가 가능하다. 커지면 집단의 관점을 취할 수 있다. 이 점에서 사회적·집단적 자아가 등장한다. 불교는 사회적·집단적 자아에 대해서 무관심하다. 하지만 세속적인 행복에는 반드시 필요한 개념이다. 인간의 가아는 집단을 이루기 때문이다. 상락아정(常樂我淨)에 잠겨있는 참나(眞我 true atman)가 고통을 겪는 게 아니라 가아가 고통을 겪는 것이고 그 고통 때문에 열반을 추구해야 하는 것이라면, 개별 가아의 행불행(幸不幸)에 지대한 영향을 끼치는 사회적·집단적 가아는 중요할 수밖에 없다. 열반을 이룰 때까지 인간의 고통은 가아가 겪는 고통이 모든 고통이기 때문이다. 최소한 불교에 의하면 그렇다.
포지티브 게임 중 ‘절대적 포지티브’ 게임은 승자뿐만 아니라 패자도 이익을 보는 경기이다. 모든 중생이 결국 성불한다는 불교는 ‘절대적 포지티브’ 게임이다. 오직 소수만이 구원을 얻고 나머지는 지옥에서 영원히 고문을 당한다는 기독교는 ‘절대적 네거티브’ 게임이다.
시간의 관점도 있다. 단기적으로는 손해이지만 장기적으로는 이익인 경우도 있다. 단기 장기 둘 중 어느 관점을 택해야 할까? 한때의 고생이 이 시간 이후로 영원히 이익을 보장한다면, 경제를 아는 사람이라면 장기를 택할 것이다.
바둑이나 장기와 달리 삶의 길에서는 상황(판)이 끝없이 변하고(無常) 그에 따라 규칙도 끝없이 변한다(無常)는 점이다. 그러므로 내쉬 균형점도 끝없이 변한다. 삶이 어려운 이유이고, 한 상태에 안주할 수 없는 이유이다. 게임이론을 통해, 비록 양에 차지는 않을지라도, 최선의 길을 알게 되면 불가능한 길을 향해 달려가다 망하는 일이 없게 된다. 소위 주제파악을 하는 것이다.
합종연횡(合從連衡)은 전형적인 게임 이론이다. 춘추전국시대에 서쪽의 최대강국 진나라에 대항하기 위해서 동쪽의 6국(연·조·위·제·초·한)이 합종을 했다. 그러자 진나라는 연횡책을 폈다. 6국마다 사신을 보내 일대일 동맹을 제안했다. 제안을 받은 나라는 고민에 빠질 수밖에 없다. 다른 나라가 진과 연횡을 하면 합종이 깨질뿐더러 진의 공격을 받을 위험이 커지게 될 것이기 때문이다. 다른 나라가 진과 합종할 가능성이 얼마나 되는지 계산해야 한다. 그 계산에 따라 일부 나라는 합종을 버리고 연횡을 택했다. 6국이 일치단결하여 합종을 유지했으면, 진은 6국을 멸하기 힘들었을 것이다. 하지만 그리하지 못하고 6국은 차례로 진에게 멸망하였다. 죄수의 딜레마와 같은 상황이다. 2014년에 노벨 경제학상이 게임이론가 진 티롤(Jean Tirole)에게 돌아갔다. 수리진화생물학자 존 메이나드 스미스(John Maynard Smith)는 게임이론을 생물학에 도입한 공으로 1999년 크래푸드(Crafoord) 상을 받았다. 35억 년 역사의 생물의 진화에는 게임 이론이 작용한다.
강병균 포항공대 수학과 교수 bgkang@postech.ac.kr
[1493호 / 2019년 6월 19일자 / 법보신문 ‘세상을 바꾸는 불교의 힘’]
※ 이 기사를 응원해주세요 : 후원 ARS 060-707-1080, 한 통에 5000원