수십 년 동안 수학자로 살아가며 작고 큰 장애물을 만났다. 그때마다 당시에는 눈치채지 못했지만, 알고 보니 장애물을 돌파할 수 있었던 기회들이 찾아왔었다. 그중 특히 기억나는 몇 가지 중요한 순간과 그때 든 나의 생각을 나누고자 한다.

1980년대 초반 미국 유학 시절, 내가 바라보던 지평선은 박사학위였다. 2년 만에 한 편의 논문을 발표하고 줄곧 연구하던 아놀드 추측*을 부분적으로 해결하면서 지도교수님인 앨런 와인스타인 교수님을 매주 만날 때마다 “졸업해도 좋겠다”는 말 한마디를 기대했지만, 늘 실망하기 일쑤였다.
* 아놀드 추측: 사교 공간 속 해밀턴 흐름의 주기점이 사교 다양체에서 상동성의 개수만큼 있다는 추측.

사실 이때쯤 같은 지도교수님 밑에서 1년을 박사후연구원으로 함께 보냈던 안드레아스 플로어 당시 미국 스토니브룩 뉴욕주립대학교 박사후연구원이 미하일 그로모프의 유사정칙 곡선 이론을 해밀턴 역학과 결합해 아놀드 추측을 일반적으로 해결할 수 있는 새 이론을 만들고 있었다. 아놀드 추측을 부분적으로 해결한 나의 방법론은 별 의미가 없어진 것이다. 그 충격으로 자신감이 없어지고 과연 박사학위를 받을 수 있을까하는 의문까지 들었다.

이렇게 1986년이 끝나가던 무렵, 지도교수님이 플로어 박사와 함께하던 비선형 슈뢰딩거 방정식에 관한 연구를 나에게 넘겨주셨다. 물론 플로어 박사에게 내가 그 연구를 이어서 해도 좋다는 동의를 받은 뒤였다. 다행히 내가 아놀드 추측과 관련된 문제를 다루고 양-밀스 게이지 이론을 혼자 공부하면서 습득했던 해석학적 지식 덕분에 이 문제를 두 달 만에 해결했다. 하지만 그때는 결과에 대한 가치 판단을 할 용기도, 자신도 없었다. 그래서 문제를 풀면서 내가 스스로 떠올린 문제 한두 개를 더 해결한 뒤, 이 결과들을 논문 형태로 정리해 점검하는 데에 집중했다.

그리고 1987년 여름, 지도교수님은 나에게 말했다. “이제는 졸업해도 되겠다!” 이때가 수학자로서의 삶에서 가장 기뻤던 순간으로 남아 있다. 당시 우물 안 개구리였던 나를 진정한 연구자로서 탈바꿈시켜준 지도교수님께 지금까지도 감사하고 있으며, 지도교수님이 보여줬던 학자로서의 기준은 내가 갖고 있던 좁디좁은 시야의 알껍데기를 깨주었다.

▲ 1988년 미국 버클리 캘리포니아대학교에서의 박사과정 졸업식 모습. 오른쪽은 현재 아주대학교 총장인 박형주 수학과 교수다.

새로운 곳에 정착하며 만난 ‘벽’

1994년 가을, 영국 케임브리지대학교 근교에 뉴턴 수리과학연구소(뉴턴 연구소)가 개관한 지 2년이 되었을 때였다. 그 당시 나는 미국 메디슨의 위스콘신주립대학교 조교수로 갓 임용된 뒤로, 박사과정 때 연구한 주제는 놓아두고 원래 하려던 사교 기하학을 다루고 있었다. 1991년 사망한 플로어 미국 버클리 캘리포니아대학교 교수가 창시한 이론을 보다 일반적인 경우로 확장하는 일이었다. 이 호몰로지 이론이 아놀드 추측만 풀고 끝날 도구가 아니라고 확신했기 때문이었다.

그 뒤 만 4년을 꼬박 걸려 한 편의 논문을 겨우 출판했다. 하지만 내 주위의 수학자들은 그 논문에 별로 주목하지 않았다. 더 큰 문제는 플로어 호몰로지 이론에 대한 연구가 답보하던 터라 서서히 확신을 잃고 불안해하고 있었다. 그때 뉴턴 연구소에서 창립 기념으로 사교 기하학을 주제로 한 특별 연구 프로그램을 기획했고 나도 뜻밖의 초청을 받았다. 당시 사교 기하학 분야의 전문가들은 내 연구에 흥미가 있을 거라 생각하지 못해서 더욱 갑작스러웠다. 나는 이 기회를 놓치지 않고, 프로그램 주관자에게 가을학기뿐 아니라 여름에 있는 연구 프로그램부터 6개월 동안 영국 케임브리지에 머물고 싶다고 했다. 감사하게도 요청이 받아들여졌고, 나는 아내와 다섯 살 된 아들을 데리고 영국으로 떠나기로 마음먹었다.

위스콘신대학교에 무급 휴직을 내고, 미국을 떠나 영국에 도착했다. 그해 미국과 다른 유럽 국가 모두 찜통더위에 난리였지만, 영국은 이상하게 시원했다. 그러나 훈훈했던 날씨와는 달리 영국 정착이 쉽지만은 않았다. 여름에는 뉴턴 연구소에서 생활비만 받으며 내 연구비 일부로 근근히 살아야 했고, 가을이 돼서야 충분한 급여를 받을 수 있었다. 거기다 한 학기만 체류할 외국인 신분이라 다섯 살 된 아들이 공립 유치원에 갈 수 없는 상황이었다. 그래서 연구 프로그램의 주관자 소개로 알게 된 사립 유치원에 보낼 수밖에 없었다. 이 유치원은 영국의 총리 여럿을 배출한 유명한 곳이어서 내가 뉴턴 연구소에서 받는 보수의 3분의 1을 아이 유치원의 등록금으로 내야 했지만, 아이는 수준 높은 유치원 교육을 받을 수 있었다.

또 당시에 의료 보험이 없어서 임신한 아내가 몸이 좋지 않아도 병원에 가지 못하고 근근이 참고 버티던 어느 날, 배 속의 아이를 위해 큰맘 먹고 병원에 가서 온갖 검사를 받았다. 그리고서 걱정하며 물어본 비용이 공짜라고 해서 마음을 놓은 적도 있다. 영국에서의 처음 두 달은 차 없이 걷거나 버스를 타고 다니다가, 두 달이 지나서야 비로소 20년 된 650파운드(당시 약 90만 원)짜리 중고차를 샀다. 그제야 아내가 시장을 가는데도 문제없게 됐고, 주말에는 근처에 있는 명소에도 방문하곤 했다. 시원한 여름에 감사했고, 이제는 물과 우유를 사러 오래 걷지 않아서 좋았다. 모자라지 않는 것만으로도 우리는 충분했고 풍성하다고 생각했다.

이렇게 크고 작은 일들을 거치는 동안, 나는 최초로 라그랑지안 플로어 호몰로지 이론을 사교 위상수학의 문제에 적용해 뉴턴 연구소에서 열린 두 번의 세미나에서 발표했다. 지금 생각해도 어떻게 그런 아이디어를 그렇게 시기적절하게 완성할 수 있었던지 그저 놀라울 뿐이다. 이 결과의 진정한 가치가 수학계에 알려지기까지는 수년이 걸렸지만, 나 자신에게는 플로어 이론의 유용성에 대한 확고한 믿음을 주기에 충분했다. 그 후 지금까지 30여 년 동안 플로어 이론을 확장, 발전시키는 일에 더 매진할 수 있는 원동력이 됐다.

우연한 기회로 시작된 협업

그리고 영국에서 후카야 켄지를 만났다. 그는 당시 일본 도쿄대학교 교수였고, 2~3년 전에 게이지 이론에서 사교 기하학으로 연구 분야를 옮겨 라그랑지안 플로어 호몰로지의 고등대수 구조인 에이-인피니티 범주에 대해 연구하고 있었다. 후카야 교수는 후에 후카야 범주라고 불리는 이 개념을 기하 해석학적으로 발전시켜야 했는데, 난관에 부딪혀 있던 상태였다. 그런 그가 학회를 참석하기 위해 뉴턴 연구소에 한 달 동안 머물던 어느 날이었다. 지도교수님과 나를 포함한 젊은 사교 기하학자들이 담소를 나누고 있을 때, 후카야 교수가 다가와 자신을 소개했다. 그래서 다른 사람들도 돌아가며 자기소개를 했다. 내 차례가 되자, 후카야 교수는 반색하며 나에게 “당신 논문을 많이 읽었다. 얘기하고 싶었다”라고 말했다. 나는 무엇보다도 나와 같은 주제를 연구하고, 내 논문을 자세히 읽은 다른 수학자가 있다는 사실을 처음 알게 돼 기뻤다.

담소가 끝나고 후카야 교수는 “라그랑지안 플로어 호몰로지를 연구하는데, 해석학적인 문제에 봉착해 지난 일 년 동안 해결하지 못하고 있다. 당신은 혹시 이런 걸 생각해 봤느냐?”고 물어왔다. 전에 나도 생각해봤던 문제여서, 어떻게 해야 할지 내 생각을 얘기했더니 함께 공동논문을 쓰자고 제안을 해왔다. 이를 계기로 협업이 시작됐다. 우리의 첫 공동논문은 서로가 처음 만났을 때 얘기한 문제를 푼 내용으로, 1997년 ‘아시아 수학 저널’ 창간호에 실렸다.

1996년에는 스위스의 도시 아스코나에서 열린 국제 사교 위상수학 학회를 기점으로 오타 히로시 일본 나고야대학교 교수와 오노 카오루 일본 교토대학교 교수가 합류했다, 우리 네 사람은 러시아 수학자 미하일 그로모프가 만든 유사정칙 곡선과 후카야 범주에 대해 이야기를 나눴고, 각각의 대학으로 흩어졌다. 일본에 있던 그들과 미국 한복판에 있던 내가 만나기가 쉽지 않았던 그 시절에, 뉴턴 연구소는 우리 연구의 인큐베이터가 되어준 셈이다. 이 협업은 25년을 거쳐 지금까지 계속되고 있으며, 우리는 3권의 공동 저서와 논문 15여 편을 출판했다.

플로어 교수가 하다가 멈춘 연구를 이어받거나 다른 수학자와 함께 연구해 나의 연구 여정을 채운 것처럼, 내가 풀다만 문제를 또 다른 수학자가 이어받아 그의 연구 여정을 채워나가고 있다. 수학자가 하는 모든 연구가 바로 당사자의 손에 쥐어지는 결과물이 되는 것은 아니지만, 미완성의 연구나 가치 있는 생각의 조각들이 그냥 흔적 없이 사라지는 것은 아니다. 그것들은 나 자신의 다른 연구나 토론을 통해 다른 연구자의 밑거름으로 거듭나기도 하고, 서로 영감을 주고받으며 나의 지평이 아니라 우리 인식의 지평을 함께 열어가는 밑거름이 된다고 생각한다.