[강석기의 과학카페 255] 과학은 길고 인생은 짧다

[2015년 사라진 과학계 별들](9)게임이론으로 노벨상 받은 수학자 존 내쉬

동아사이언스 | 입력 2015년 12월 29일 11:00 | 최종편집 2015년 12월 30일 09:00

지난 세 해 마지막 과학카페에서 필자는 ‘과학은 길고 인생은 짧다’라는 제목으로 그해 타계한 과학자들의 삶과 업적을 뒤돌아봤습니다.
 
어느새 2015년도 며칠 남지 않았네요. 올 한 해도 여러 저명한 과학자들이 유명을 달리했습니다. 이번에도 마지막 과학카페에서 이들을 기억하는 자리를 마련했습니다.
 
지난해와 마찬가지로 과학저널 ‘네이처’와 ‘사이언스’에 부고가 실린 과학자들을 대상으로 했습니다. ‘네이처’에는 ‘부고(obituary)’, ‘사이언스’에는 ‘회고(retrospective)’라는 제목의 란에 주로 동료나 제자들이 글을 기고했는데 이를 바탕으로 했습니다.
 
올해 ‘네이처’에는 18건, ‘사이언스’에는 4건의 부고가 실렸습니다. 두 저널에서 함께 소개한 사람은 두 명입니다. 두 곳을 합치면 모두 20명이나 되네요. 이들을 사망한 순서에 따라 한 사람씩 소개합니다.
 
★존 내쉬 (1928. 6.13 ~ 2015. 5.23) 게임이론으로 노벨 경제학상 받은 수학자 

2001년 개봉한 영화 ‘뷰티풀 마인드’는 정신분열증으로 거의 30년 동안 삶이 황폐화됐다가 기적적으로 회복된 천재 수학자의 실화를 다룬 저널리스트 실비아 네이사의 동명 논픽션(1998년)을 원작으로 하고 있다. 영화의 주인공 존 내쉬(John Nash)와 아내 앨리샤가  5월 23일 교통사고로 사망했다.

1928년 미국 웨스트버지니아 블루필드에서 태어난 내쉬는 고교시절 수학에 뛰어난 재능을 보였지만 카네기공대(현 카네기멜론대) 화학공학과에 입학했다.

그러나 적성이 맞지 않아 화학과로 옮겼고 다시 수학과로 바꿨다. 대학원 진학을 위해 지도교수에게 추천서를 받았는데, “이 친구는 수학 천채입니다.”라는 간단한 멘트가 전부였다고 한다. 1948년 하버드대와 프린스턴대 두 곳에서 입학허가를 받은 내쉬는 프린스턴을 택했다.

당시 프린스턴대에는 컴퓨터의 아버지이자 게임이론의 창안자인 천재 중의 천재 존 폰 노이만이 있었고, 그의 책 ‘게임이론과 경제행위’(1944년)를 읽은 내쉬는 게임이론에 흥미를 느끼게 된다. 당시 폰 노이만의 게임이론은 총체적 갈등상황인 2인 제로섬 게임은 잘 설명했지만 경쟁과 협력이 혼재하는 인간 행동의 복잡한 측면을 제대로 설명하지 못했다.

1949년 스물한 살의 내쉬는 폰 노이만의 한계를 뛰어넘는 새로운 게임이론 연구에 착수했고 이듬해 ‘미국립과학원회보’에 ‘n명 게임에서 평형점’이라는 제목의 논문을 실었다. 이 논문으로 내쉬는 1994년 노벨경제학상을 받았다. 도대체 스물두 살 청년의 두 쪽짜리 논문이 어떻게 44년 뒤 노벨상으로 이어질 수 있었을까.

오늘날 내쉬의 균형 정리라고 알려진 논문의 내용은 간단히 말해 여러 사람이 참여하는 게임에서 누구든 다른 대체 전략을 선택해 더 나은 결과를 얻을 수 없는 상황, 즉 균형점이 하나는 존재한다는 걸 수학적으로 입증한 것이다. 당시 폰 노이만은 내쉬의 결과를 별거 아니라고 무시했지만 시간이 지날수록 경제학 뿐 아니라 다른 사회과학, 진화생물학에도 적용되면서 영향력이 커졌다.

예를 들어 두 사람이 벌이는 게임에서 A, B 두 전략을 선택할 수 있다고 하자. 나와 상대 둘 다 A를 택하면 내 이익이 2다. 내가 A를, 상대가 B를 택하면 내 이익이 0이다. 내가 B, 상대가 A를 택하면 내 이익이 3이다. 둘 다 B를 택하면 내 이익이 1이다. 상대방도 마찬가지다.

이 경우 둘 다 B를 선택할 때가 내쉬 균형이다. 둘 가운데 누구라도 A로 바꾸면 이익이 0이 되기 때문이다. 즉 누구도 독립적으로 선택을 바꿔 이익을 높일 수가 없다. 여러 명이 개입되는 실제 상황에 내쉬 평형을 적용하는 건 대단히 복잡하고 어려운 일이지만 큰 도움이 된다고 한다.

논문을 정리해 박사학위를 받은 내쉬는 1951년 23세에 MIT 교수가 됐고 앨리샤라는 물리학도와 결혼도 했다. 그런데 1959년 한 학회에서 리만가설에 대한 강의를 할 때 이상조짐이 포착됐고 결국 피해망상 정신분열증 진단을 받았다. 수년간 정신병원을 들락거리고 1963년 이혼까지 하면서 바닥까지 추락한 내쉬는 그러나 기적적으로 증상이 서서히 나아지면서 1980년대 후반 학계에 다시 모습을 드러냈다. 그리고 1994년 노벨상을 받았다.

저널리스트 실비아 네이사는 내쉬의 삶에 큰 흥미를 느껴 오랜 취재 끝에 1998년 논픽션 ‘뷰티풀마인드’를 출간했고 3년 뒤 영화화됐다. 노벨상 수상과 영화로 내쉬는 정신 상태가 한층 더 나아졌고 이혼 뒤에도 줄곧 내쉬를 돌봤던 전처와 2001년 재혼했다. 그리고 올해 아벨상 수상자로 선정돼 아내와 함께 노르웨이를 다녀온 뒤 택시로 귀가하는 길에 교통사고로 두 사람 다 사망했다.

예일대 마틴 슈빅 교수는 ‘사이언스’ 6월 19일자에 실은 부고에서 누군가에게 들었다며 내쉬가 노벨상과 아벨상 가운데 어느 걸 높게 치냐는 질문에 아래처럼 재치있게 답했다며 글을 마무리했다.

“1/2(아벨상은 두 사람이 수상)이 1/3(노벨상은 세 사람이 수상)보다 낫지 않겠어요?”

※ 필자소개

서울대 화학과와 동대학원을 졸업했다. LG생활건강연구소에서 연구원으로 근무했으며, 2000년부터 2012년까지 동아사이언스에서 기자로 일했다. 2012년 9월부터 프리랜서 작가로 지내고 있다. 지은 책으로 『강석기의 과학카페』(1~4권, 2012~2015),『늑대는 어떻게 개가 되었나』(2014)가 있고, 옮긴 책으로 『반물질』(2013), 『가슴이야기』(2014)가 있다.

강석기 과학칼럼니스트 sukkikang@gmail.com

출처 : 인터넷

† 성부와 성자와 성령의 이름으로 아멘.