Vol.1 [나의 삶, 나의 수학] 그래프로 연결하는 세상

• 기초과학연구원(IBS)은 세계 수준의 기초과학 연구를 위해 2011년 대한민국이 설립한 연구기관입니다. 수학 분야에서는 5명의 연구책임자가 이끄는 3개의 연구단이 활발한 연구를 펼치고 있습니다. IBS는 설립 10주년을 맞아 <수학동아>와 함께 IBS 수학자들의 연구와 삶을 소개하는 시리즈 <나의 삶, 나의 수학>을 연재합니다. 첫 번째로 점과 선으로 그래프를 그리듯 전 세계 많은 수학자와 교류하며 엄상일 CI(Chief Investigator)가 그린 수학 인생 그래프를 살펴봤습니다.

Q. 처음 수학에 관심이 생겼던 때를 기억하시나요?

어릴 때만 해도 사실 저는 컴퓨터를 좋아했어요. 초등학교 6학년 때 고향인 경상북도 예천에 처음으로 컴퓨터 학원이 생겨서 다니게 됐습니다. 그때 코딩 언어를 배워 사칙 연산하는 프로그램을 만들었는데, 분수를 연산할 때는 약분하거나 분모를 같게 만드는 통분을 해야 했어요. 그래서 최대공약수를 구해야 했는데 BASIC이라는 코딩 언어에는 최대공약수를 구하는 명령어가 없었어요. 그래서 유클리드 호제법으로 최대공약수를 구하는 코드를 만들었더니 분수 계산이 빨라졌습니다. 이런 경험이 여러 번 쌓이다 보니 수학에도 자연스럽게 관심이 생겼죠.

Q. 그 뒤엔 어떻게 수학자의 길을 걷게 되셨나요?

수학을 좋아하긴 했지만, 대학교를 진학할 때까지만 해도 컴퓨터를 전공하고 싶었어요. 하지만 제 마음 어딘가에 수학을 선망하는 마음이 있었던 것 같아요. KAIST는 입학 후 학과 선택을 자유롭게 할 수 있어서 여러 선배님을 만나보고 수학과로 진학하게 됐습니다. 하지만 여전히 컴퓨터를 좋아해서 컴퓨터 동아리 회장도 하고 대학교 졸업 후 컴퓨터 프로그래머로 3년간 일하기도 했습니다. 그 결과 수학과 컴퓨터 알고리듬을 모두 다룰 수 있는 수학자가 됐죠.

Q. 가장 기억에 남는 연구가 있다면요?

주제가 정해진 그날 바로 문제를 해결해 논문을 쓴 연구도 기억에 남긴 하지만, 2014년부터 6년 동안 했던 연구가 가장 기억에 남습니다. 프랑스 국립과학연구센터(CNRS)의 김은정 박사, 그리고 제 지도 학생이었고 현재 NHN에서 근무하는 정지수 박사와 함께하던 연구였는데요, 회의하면서 해법을 찾았다가도, 헤어지기직전에는 큰 오류가 나왔어요. 그럼 뿔뿔이 흩어진 채로 각자 연구를 하다가 함께 모였을 때 다시 오류를 해결했죠. 그런데도 시간이 조금 지나면 또 다른 오류를 발견하는 일이 많았어요. 이 과정을 여러 번 반복하다 보니 어느 샌가 결과물이 나와 있었지요. 이렇듯 수학 문제엔 희로애락이 있어요.

이 연구는 복잡하지만 잘 될 것으로 믿고 몇 년을 투자했는데, 어느 날 큰 충격에 빠졌습니다. 알고 보니 처음 이 연구를 시작한 계기가 됐던 수식이 틀렸고 그 걸로는 문제가 해결되지 않는다는 것을 알게 된 것이죠. 하지만 몇 년을 한 문제에 매달린 덕분일까요? 그 문제에 대한 직관이 훨씬 좋아져서 문제를 해결하는 다른 방법을 금세 찾아냈습니다. 결국, 50쪽과 73쪽짜리 논문 2편을 완성할 수 있었습니다.

▲ 2016년 1월 프랑스 파리에서 함께 연구 중인 김은정 박사와 정지수 박사.

Q. 가장 힘들었던 순간은 언제였나요?

미국 프린스턴대학교에서 박사과정을 밟던 2003~2004년이에요. 연구에 진전이 없어서 힘들었죠. 과학 분야라면 어떤 실험에 실패해도 새롭게 발견된 내용으로 논문을 쓸 수 있지만, 수학은 새로운 사실을 찾고 완벽하게 증명해야 해서 힘들었습니다. 제 지도교수님이신 폴 시모어 미국 프린스턴대 수학과 교수님은 이 분야의 대가라 높은 눈높이를 가지고 계셔서 더욱 힘들기도 했고요. 그래서 힘든 순간이 찾아올 때마다 평소처럼 연구를 계속하려고 노력했어요. 꾸준히 노력했더니 결국엔 문제가 해결됐죠.

Q. IBS 합류 후에 달라진 점이 있다면요?

무엇보다 같은 수학 문제를 두고 얘기를 나눌 연구원이 많아졌다는 점입니다. 보통 대학에서 연구원을 뽑으려면 교수 개인이 연구비와 절차를 모두 준비해야 하는데, IBS에서는 도와주는 분들이 많아 그 부담을 덜 수 있어요. 덕분에 전 세계에서 모인 10명의 훌륭한 연구원과 함께 논의하며 연구하고 있습니다.

Q. 수학이란 무엇인가요?

한편으로는 맞추기 힘든 퍼즐 같지만, 나름의 아름다움도 있어요. 그래서 풀었을 때의 희열감이 크죠. 문제를 풀면서 수학자들끼리 많은 교류를 하는데 이때의 즐거움도 수학의 한 부분입니다. 함께 고민하면서 서로의 고충을 공감할 수 있죠.

여러분은 수학이 무엇이라고 생각하나요? 정답을 구하는 것이 수학의 목적이라고 생각할 수도 있을 것 같아요. 하지만 수학 연구를 하면서 인간 지성의 한계를 시험하는 새로운 추측을 만들고 생각지도 못한 방법을 떠올려서 해결하면 그 즐거움은 이루 말할 수 없지요. 이때 발견한 새로운 방법은 다른 연구 분야에도 적용할 수 있을 뿐 아니라 분야끼리 묶어 또 다른 연구 분야를 만들어낼 수도 있어요.

Q. 어떤 수학자로 기억되길 바라나요?

올해 아벨상을 수상한 로바스 라슬로 헝가리 부다페스트대학교 명예 교수가 10년 전 이런 말을 했습니다. “수학 분야가 그 응용 분야와 함께 발전하는 시기에 그 분야에서 연구할 수 있어서 매우 운이 좋았습니다. 물리학과 해석학 분야가 17세기부터 19세기까지 함께 발전한 것처럼 컴퓨터 과학과 이산수학이 함께 성장해 왔어요”라고요. 이처럼 이산수학분야는 수학의 중심 연구 분야로 인정받은 지 얼마 되지 않았지만, 컴퓨터 과학과 함께 급속하게 발전하고 있어요. 아직도 다른 수학 분야와 비교하면 역사가 짧은 만큼 좋은 연구를 해서 오래 기억되는 수학자가 되고 싶습니다.