“수학은 예술, 함께 감상하시죠”

“수학은 예술, 함께 감상하시죠”

[원로와의 대화] 박세희 서울대 명예교수 (하)

 

 

과학기술계 원로와의 대화 박세희 교수가 수학을 전공하게 된 데는 6·25 전쟁의 영향이 컸다. 전란의 와중에 가족들이 뿔뿔이 흩어지게 되자 당시 15세 나이의 박세희 소년은 이곳저곳 떠돌아다니며 일을 하는 틈틈이 야간학교 3개월, 주간학교 3개월 하는 식으로 공부를 했다.

▲ 세한도가 걸린 자택 집필실에서 ⓒScienceTimes

“참 어려운 시절이었지만 공부는 해야 하겠다는 생각에 형편 닿는 대로 주야간학교를 옮겨 다니며 공부를 했습니다. 그때 영어나 물리 화학 등은 체계적인 학습지도를 받지 못해 잘 하지 못했습니다. 그런데 수학은 단계를 잘 밟아나가면 이해가 돼서 자연스럽게 대학에서 수학을 택하게 됐지요.”

휴전 2년 뒤인 1955년에 입학한 서울대 문리대는 학생들의 분위기가 자유분방했다. 한데 경제가 어렵다보니 입학생의 반 정도만이 등록을 해서 제대로 다니고, 나머지는 중도에 그만두는 학생이 적지 않았다. 면학 분위기가 정착되지 않아 공부도 제대로 되지 않았다. 그러나 박 교수는 전공인 수학 외에 문학과 철학에 관심이 많아 이 분야의 관심 있는 책도 섭렵했다.

박 교수가 정년 이듬해인 2002년 15년 동안 공들인 끝에 번역 출간한 ‘수학의 철학’(폴 베나세랖 외 엮음)은 철학에 대한 그의 애정을 잘 보여준다. 20세기 ‘수학기초론’의 주요한 성과와 현대수학의 이론적 동향과 쟁점을 담은 이 책은 원본의 어려운 영어 주해를 역자인 박 교수가 일일이 쉽게 풀어쓰는 수고를 들인 역작이다.

“교수 시절 한국과학사학회 이사와 서울대 철학사상연구소 운영위원을 해서 인문학에 엄청난 소양을 갖고 있는 것처럼 보이나 그렇게 특별나지는 않습니다. 당시 과학사 하는 분들 중에 수학사를 잘 아는 분이 없어서 내가 그 분야 공부를 했고, 철학사상연구소는 외국에 논문을 많이 발표한 사람이 필요하다면서 잡아끌어 적을 두었었지요.”

35년 계속한 세미나 통해 논문 200편 나와
서울대 수학과를 창설하고 초대 대한수학회 회장을 지낸 최윤식 교수의 권유로 대학원에 진학한 박 교수는 우리나라 수학과 서울대 수학과, 대한수학회를 일으켜야 한다는 스승의 평소 당부를 가슴에 새기며 이를 실천하기 위해 애썼다.

“스승의 당부는 결국 공부와 연구에 매진하라는 말씀이셨지요. 한데 당시 조교는 무급이라서 생활이 어려워 고교에서 2년 정도 수학교사를 겸직하며 대학원 공부를 했습니다. 그러다 1966년 전임강사가 되면서 대학원 학생들과 세미나를 시작해 본격적인 공부와 연구를 진행했습니다.”

이 세미나는 2001년 박 교수가 정년퇴임을 하기까지 35년간 이어져 우리나라 수학 역사상 가장 긴 기록을 세웠다. 박 교수의 학문적 삶에서 이 세미나는 중요한 자양분이기도 했다.

“주로 외국의 논문을 읽고 연구거리를 찾아 같이 토의하고 발표하는 자리였습니다. 이 세미나를 진행하면서 논문을 200편 정도 쓸 수 있었고, 박사도 10명 정도 배출했습니다.”

박 교수는 “해방 이후부터 6·25 전쟁 사이의 혼란기에 대학에서의 연구라는 개념은 수학에 관한 한 전혀 없었다고 해도 과언이 아니다”며, “대학에서 연구가 강조되기 시작한 것은 1970년대 후반부터로 그 이후 수학을 전문적으로 연구하여 외국 학술지에 발표하는 이들이 나타났다”고 회상했다.

서울대 수학과의 박사과정도 박 교수가 시작했다. 1970~71년 당시 박 교수가 수학과 주임교수로 있을 때 학과의 연구와 교육상황을 살펴보니 해방된 지 25년이 지났어도 제대로 자리를 잡지 못하고 있었다. 주위의 권유도 있고 연구 분위기 진작을 위해 논문만 쓰면 박사학위를 주는 구제(舊制) 박사 제도로 선배들을 박사로 배출했다. 그러나 별다른 성과가 나타나지 않자 본인이 조교수에서 대학원 학생으로 신분을 낮춰 유학을 가기로 결심했다.

“당시 선배 교수진 가운데 Ph.D를 가진 분이 한 사람밖에 없었고, 정식 박사과정을 만들어야 할 필요성이 있어서 그 준비 단계로 늦은 나이에도 불구하고 미국 인디애나 대학원에 가서 16살이나 어린 학생들과 같이 공부를 했어요.”

박사과정 이수를 위해 3년 정도 외국에 가게 되니 가족들을 모두 데려가야 하는데, 장남이 출국 제한나이에 걸려 외가에 맡겨야 했다. 박 교수는 “아이를 떼어놓고 가는 게 못내 안쓰러워 정부 관계자에게 데려갈 수 있는 방법이 없냐고 물어봤더니 ‘가족 모두 데리고 미국으로 내빼려고 하는 게 아니냐, 불가능하다’고 말해 기가 막혔다”고 말했다.

사실 당시 외국에서 유학한 사람 중에는 국내 상황을 불안하다고 느껴 외국에 눌러앉거나 귀국했다가 다시 돌아가는 이들도 많았다. 박 교수가 1975년 귀국할 때도 한국에는 전쟁위험이 있으니 귀국하지 말라고 권유하는 미국 교수도 있었다. 박 교수는 외국으로 발길을 돌리는 선배들을 보고 국내 학계를 지키겠다는 생각을 더욱 굳히게 됐다고 한다.

▲ 1981년 대한수학회 부회장 때 학회 35주년 기념식 및 총회에서 보고하는 박세희 교수 ⓒ박세희 교수 제공

구설수 싫어 대외활동 중단하자 논문 발표 늘어
박 교수는 귀국 후 세미나를 계속 진행하면서 학술지에 본격적으로 논문 발표를 시작했다. 1975년 신제 박사과정 강의를 시작한 지 7년 만인 1983년에 서울대 수학과의 첫 박사를 키워냈다. 이와 함께 학사행정과 학회 일, 외부단체 일에도 다양하게 관여하게 됐다.

1977~79년 서울대 자연대 학장보(교무담당)에 이어 1980~84년 대학수학회 부회장과 회장, 1984년부터 1993년까지 한국과학기술단체총연합회 이사, 그 뒤에 수학과 학과장, 서울대 교수협의회 부회장 등을 역임했다. 그러나 이같은 보직이나 대외활동은 연구에 목마른 박 교수에게 그리 달갑지 않은 일이었다.

“젊어서는 바른 말 한다고 구설수에 많이 올랐었습니다. 연구할 시간을 확보하기 위해 부딪힌 면도 있고요. 언젠가 총장이 교수간담회를 주재한다고 해서 참가했다가 학교 운영 제대로 하라고 큰소리 치고는 도중에 강의하러 나와 버렸습니다. 또 수학과 학과장을 할 때는 군부대 집체훈련에 안 간 학생들에게 처음에 학교가 발표한 얘기와 달리 입소마감 시간을 연장할 테니 입소하라는 말을 해달라는 얘기를 듣고 ‘학교는 거짓말을 할 수 있어도 선생은 거짓말을 할 수 없다’며 반발한 적도 있습니다.”

박 교수는 1990년대 초반부터는 국내 활동을 자제하고 국제 활동에 주력하면서 논문 발표 수가 크게 늘어났다. 노벨상 수상자 가운데는 20대에 쓴 논문으로 상을 받는 경우가 적지 않은 반면 박 교수는 40세 이후부터 논문을 발표하기 시작해 80 가까운 고령에도 펜을 놓지 않고 있다. 전형적인 대기만성형 학자라고 해야 할까.

1975년부터 20년 동안 120여 편의 논문을 썼고, 1995년부터 2001년 정년 때까지는 110여 편, 그리고 정년 이후 최근까지 100여 편 등 모두 340여 편의 논문을 발표했다. 이와 함께 17권의 저서, 50여 편의 국내 해설 논문과 미국수학회의 매스매티컬 리뷰(MR)에 270여 편의 리뷰 등을 실었다. 웬만한 학자로서는 양적으로도 감당하기 힘든 숫자다.

“임팩트가 크지 않은 작은 논문도 많이 썼는데, 이것은 한국 학자들의 논문수가 적었던 시대에 우리나라를 알려야 하겠다는 생각에서였고, 다른 한편으로는 국내외의 여러 학술지들을 활성화시키기 위한 목적도 있었습니다.”

박 교수의 전공분야는 비선형 해석학으로, 비선형해석학에서의 위상수학적 방법을 체계적으로 연구하여 KKM 이론, 부동점이론, 일치점이론, 변분부등식이론, 극대극소이론, 최량근사이론, 경제평형이론 등에서 많은 결과를 발표했다. 또 허용위상벡터공간에서의 볼록값을 가지는 다가사상족에 관한 부동점 정리들을 통일했고, 추상볼록공간에서의 KKM 이론을 쓰는 평형문제 연구의 기초를 세웠으며, KKM 이론을 해석적 부동점이론에 적용하여 ‘더 나은 허용 다가사상족’에 관한 일반적인 정리들을 얻었다. 그 뒤의 연구에서는 위와 같은 결과들에 부수되는 응용면을 주로 다루었고, 세부전공 이외에 수학사와 수학기초론, 수리철학에 관한 해설과 번역이 있다.

“수학자의 지적 도전과 인간적 고뇌도 한 문화로 이해돼야”
박 교수의 이같은 연구 업적은 사실 문외한으로서는 전혀 알 길 없는 지적 탐험 같아 보인다. 실제로 수학 연구의 역사는 인간의 지적 도전의 여정으로 불린다. 이렇게 추상적이고 난해한 작업을 어떤 효용성을 염두에 두고 전 생애에 걸쳐 파고드는 것일까.

“순수 수학 연구의 효용성을 따진다면 그저 개인의 흥미와 자기만족, 좀더 나아가면 서로 이해하는 연구자들끼리의 지적 교류라고나 할까요. 사실 수학은 누가 시켜서 할 수 있는 것이 아니지요. 그렇지만 수학의 다양한 응용분야를 상정해 보면 문명적 효용성은 절대적이라고 봐야 합니다. 수학에서도 전통적 신념에 대한 의혹과 도전은 새로운 창조적 결과를 낳습니다. 페르마의 마지막 정리를 증명한 와일즈는 ‘순수하게 추상적인 의문에 대하여 실세계에 별 응용이 없는 증명을 발견하는 데 왜 그토록 큰 노력을 기울이는가?’하는 질문에 대해 ‘순수 수학자는 미해결 문제를 푸는 것을 사랑할 뿐이다. 그들은 도전을 사랑한다. 그리고, 시간이 흘러도 증명이 발견되지 않으면, 그것은 진짜 도전이 된다‘고 말했습니다.”

박 교수는 수학도 예술처럼 감상하고 음미할 만한 가치가 있는 문화라고 강조한다. 수학자 힐튼은 1990년에 쓴 글에서 “음악 감상을 하는 것이 교육 받은 이의 증표인 것처럼 교육 받은 보통 사람들이 수학을 예술처럼 감상하고 즐기고, 과학의 토대로서 존중하게 될 날을 고대한다"고 말한 바 있다. 사실 난해하게 보이기만 하는 수학에서 용어 하나라도 제대로 이해해봤으면 하는 사람들이 없지는 않다. 그렇다면 수학을 ‘골치 아픈 과목’으로 여기게 된 배경과 이유를 파악해 ‘즐기고 공유하는 아름다운 문화’로 확산시키려면 어떤 일들이 이루어져야 할까.

“수학 교육의 문제는 너무나 복잡해서 한 마디로 말하기는 어렵습니다만 수학자에게 일반 강연의 기회를 많이 마련해주고, 입시 수학 이외에 수학의 넓은 세계가 있다는 것이 사회 전반에 널리 알려져야 합니다. 또 쉽게 이해할 수 있는 수학에 관한 상식을 보급하기 위해 과학관 등에 수학에 흥미를 느끼게 할 수 있는 체험관 개설 등도 필요합니다. 현재 오락과 스포츠에 너무 많은 역량을 집중하는 매스컴도 수학을 비롯한 여러 순수 학문과 고급문화를 어떻게 잘 전파할 것인가 고민을 해봐야 하며, 학회 역시 이런 계몽적인 활동을 적극 지원해야 할 것입니다.”

2015년이면 박 교수가 수학에 입문한지 꼬박 60년이 된다. 삶의 한 주기를 수학에 바친 노교수의 꿈이랄까, 소회는 무엇일까.

“우리나라의 수학, 서울대 수학과, 대한수학회를 일으켜야 한다는 스승의 당부는 많은 후학들의 열정으로 웬만큼 이루어져 가고 있다고 봅니다. 정신과 체력이 버틸 수 있는 한 꿋꿋하게 공부하고 연구하는 모습을 간직하는 것이 소박한 바람입니다.” (끝)

김병희 객원기자 | kna@live.co.kr 저작권자 2013.04.19 ⓒ ScienceTimes