생명현상을 수학적으로 연구하는 나에게 수학은 복잡한 것을 단순하게 바라보게 해주는 자유를 준다. 지난 10여 년간 연구를 진행하며 이러한 자유를 여러 번 경험할 수 있었는데, 이 중 하나에 대해 나눠 보고자 한다.

미국 미시건대학교에서 박사과정을 마친 직후인 2013년 7월, 미국 로드아일랜드주 뉴포트에서 생‘ 체리듬: 분자부터 인간까지’란 주제로 열린 한 컨퍼런스에 참석했다. 이 행사는 다소 독특하게 진행됐다. 초청 받은 50여 명의 연구자가 리조트에 모여 정규 강연 외에 모든 식사를 함께하고 산책과 운동도 같이 하며 한마디로 잠자는 것을 제외하곤 모든 시간을 함께 보냈다.

미국 뉴포트에서의 첫 만남

이렇게 일주일을 보내며 칼라 핀키엘스테인 미국 버지니아공과대학교(버지니아공대) 생명과학부 교수님과 많은 이야기를 나눴다. 핀키엘스테인 교수님은 세포 분열을 조절하고 암을 억제하는 데 중요한 역할을 하는 p53이란 단백질을 오랫동안 연구해온 생명과학자다. 교수님은 몇 년 전부터 p53 단백질 연구를 확장해 24시간 주기의 생체리듬을 조절하는 PER 단백질과 p53 단백질 사이의 상호작용을 연구해오고 있었다. 아직 많이 진전된 것은 아니었지만, 이 문제는 내게 굉장히 흥미롭게 다가와 이것저것 물었다. 핀키엘스테인 교수님은 수학자와 연구 이야기를 한 것이 난생처음이라고 신기해하시며 열심히 답해 주셨다.

그리고 한 달 뒤 미국 버지니아주의 블랙스버그에 있는 버지니아공대에서 열리는 학회에 발표하러 일주일 간 방문한다는 소식을 전했더니 핀키엘스테인 교수님은 “미리 와서 좀 더 논의를 이어 갔으면 좋겠다”며 초청을 해주셨다.

블랙스버그에서 두 번째 만남의 불발

한 달 뒤, 나는 버지니아공대에 학회가 열리기 이틀 전에 도착했다. 그런데 핀키엘스테인 교수님이 고국인 아르헨티나에 급하게 돌아가게 됐다. 교수님은 자신을 대신해 같은 연구실의 고토 테츠야 박사와 미팅을 하라고 하셨다.

나중에 알고 보니, 핀키엘스테인 교수님은 아버지가 말기 암에 걸렸다는 소식을 듣고 병간호를 위해 부랴부랴 귀국한 것이었다. 그 와중에도 핀키엘스테인 교수님은 함께 연구할 만한 주제를 메모로 남기셨다. 고토 박사와 반나절 동안이나 그 주제에 대해 논의했지만, 제시한 문제가 모두 흥미롭지 않았다. 고토 박사에게 이해가 잘 된 문제 말고 전혀 감을 잡기 어렵거나 실험이 잘못된 것이 아닐까 의심이 드는 문제가 없냐고 물었다. 이에 고토 박사는 지난 실험 노트를 보면 분명히 있을 거라며 남은 시간 동안 같이 살펴보자고 제안했다.

나와 고토 박사는 일 년 간 핀키엘스테인 교수님의 연구실에서 진행된 다양한 실험 결과들을 같이 보며 함께 풀 만한 퍼즐을 찾기 시작했다. 보통 실험 연구자들은 논문을 발표하기 전에 실험 데이터를 외부인에게 공개하는 것을 꺼리는 편인데 내가 수학자라서인지 크게 의식하지 않았던 것 같다. 어쩌면 핀키엘스테인 교수님이 계셨으면 불가능했을 수도 있는 일이었다.

그렇게 모든 데이터를 쭉 같이 살펴보다가 모순된 데이터를 하나 찾을 수 있었다. 한 논문에서 고토 박사와 핀키엘스테인 교수님은 PER 단백질이 p53 단백질을 안정화한다는 것을 밝혔다. 이 결과를 통해 PER단백질의 양이 24시간 주기로 변하니 PER 단백질이 많을 때 p53 단백질은 더 안정화돼 양이 늘어나고, 반대로 PER 단백질의 양이 적을 때는 p53의 안정성이 줄어들어 양이 감소할 것이라 예상했다. 따라서 p53 단백질의 양도 PER 단백질처럼 24시간 주기로 변할 거로 추측할 수 있었다.

이에 후속 연구로 p53 단백질량의 변화를 측정했는데, 예상과 달리 PER 단백질의 양이 많을 때 p53 단백질이 적고, PER 단백질의 양이 적을 때 p53 단백질의 양이 많게 나타났다고 한다. 실험이 잘못된 것 아닌가 해서 다양한 방식으로 p53 단백질의 양을 측정해보고 세포 종류도 바꿔봤는데 매번 같은 결과가 나와서, 기존 논문에 실었던 PER 단백질의 p53 안정화 실험 결과가 잘못된 것은 아닌가 의심까지 하는 상황이었다.

이런 모순된 실험 결과들은 연구자들에겐 골칫거리일 수 있다. 하지만 우리가 가진 지식에 구멍이 있다는 뜻이므로 나에겐 흥미로운 문제였고 도전 의식을 불러일으켰다. 몇 주 후 귀국한 핀키엘스테인 교수님도 “그 문제를 수학으로 해결해주면 좋을 것 같다”며 본인이 생각하는 다섯 가지 가설을 보내주셨다. 나중에 들어보니, 핀키엘스테인 교수님도 이때는 수학으로 무엇을 할 수 있을지 반신반의하셨다고 한다.

왕복 10시간 거리를 오간 공동연구

그해 9월, 미국 오하이오주립대학교 수리생명과학연구소에서 박사후연구원 생활을 시작한 뒤 두 달마다 버지니아공대를 방문해 공동연구를 진행했다. 처음 몇 달은 실패와 실망의 연속이었다. 핀키엘스테인 교수님이 처음 제시한 가설들을 수리 모델로 실험해봤으나 관찰된 p53 단백질의 변화와 거리가 먼 결과들이 나왔다. 몇 가지 다른 가설을 세웠으나 역시 실패했다. p53 단백질의 양을 조절하는 분자들이 너무 다양했기에, 고려해야 할 변수들이 너무 많아 불확실성이 컸고 테스트해야 할 가설들도 너무 많았다.

실패의 연속인 일 년을 보내며 모두가 지쳐갈 때쯤 우연히 피카소의 ‘황소’라는 작품을 보게 됐다. 황소의 모습을 단순화하며 핵심만 남기는 그림이었다. 이 그림을 보는 순간 p53 단백질을 조절하는 분자들의 복잡한 그림도 핵심만 남기는 방식으로 단순화하면 어떨까 하는 생각이 들었다. 곰곰이 생각해보니 p53 단백질을 조절하는 과정이 수십 가지에 달했지만, 단순하게 생각하면 p53 단백질의 합성, 핵과 세포질에서의 분해, 핵과 세포질 사이의 수송으로 분류할 수 있음을 알았다.

단순화하고 보니 우리가 풀어야 할 문제를 ‘PER 단백질이 이 다섯 가지 중 어떤 것을 조절할까’라는 쉬운 문제로 바꿀 수 있었다. 덕분에 p53 단백질이 세포질에 있을 때보다 핵 안에 있을 때 분해 속도가 느리고, PER 단백질이 p53을 핵 안으로 데리고 간다는 두 가지 작용 과정(메커니즘)이 있다면, p53의 생체리듬을 시뮬레이션할 수 있음을 예상할 수 있었다. 이제 남은 일은 예측한 두 메커니즘을 실험으로 검증하는 것이었다. 실험에는 시간이 오래 걸리고 돈도 많이 들기 때문에, 모델 예측에 오류가 없는지 꼼꼼히 확인해야 했다. 곧 다양한 조건을 고려한 1000개의수리 모델로 다시 한번 검증했고 1개를 제외한 999개의 모델에서 같은 예측 결과를 얻었다.

이렇게 확신을 가지고 두 메커니즘을 모델로 예측한 결과를 핀키엘스테인 교수님과 고토 박사에게 설명했더니 두 분 다 “모두 이해된다”며 실험으로 검증해보기로 했다. 우선 두 예측 중 상대적으로 검증하기 쉬운 ‘p53 단백질이 실제로 핵 안에서 더 천천히 분해되는지’를 실험해봤는데, 2개월 후 고토 박사가 예측이 맞았다는 실험 결과를 보내줬다. 이 이메일을 확인하고 너무 좋아서 연구실에서 소리를 질렀던 기억이 난다. 이제 두 번째 예측을 검증해야 하는 어려운 실험만이 남아 있었다.

▲미국 버지니아공과대학교 실험실에서 찍은 사진으로 왼쪽부터 칼라 핀키엘스테인 교수, 리우 징징 박사, 필자, 고토 테츠야 박사다.

한국에 돌아와서도 계속된 공동연구의 결말

두 번째 실험은 예상했던 것처럼 까다로웠고 시간이 오래 걸렸다. 그 와중에 나는 대전에 위치한 KAIST로 자리를 옮겼지만, 공동연구는 계속했다. 차이가 있다면 시차 때문에 온라인 회의 시간이 밤으로 옮겨졌다는 것이었다. 그러던 몇 달 후 두 번째 예측도 실험으로 검증할 수 있었다. 또 이 과정에서 어떻게 이런 현상이 일어나는지 알 수 있는 구체적인 메커니즘도 찾을 수 있었다. 말하자면 피카소의 황소 그림 중 맨 아래 그림에서 시작했지만 3년간의 연구 끝에 몇 단계 위라 할 수 있는 더 복잡한 그림을 얻은 것이다. 이후 핀키엘스테인 교수님과 같은 연구실에 있는 리우 징징 박사도 연구에 참여하면서 점점 더 복잡한 그림에까지 도달할 수 있었다. 이 결과로 미국 버지니아 과학 한림원에서 매년 최고의 연구에 수여하는 J. 셸턴 홀스리 연구상을 받았다.