기초과학연구원(IBS, 원장 노도영) 분자 분광학 및 동력학 연구단(단장 조민행) 최원식 부연구단장(고려대학교 물리학과 교수)과 가톨릭대 김문석 교수, 서울대 최명환 교수 공동연구팀은 살아있는 쥐의 두개골을 제거하지 않고도 뇌 신경망을 3D 고해상도로 관찰할 수 있는 홀로그램 현미경을 개발했다.

빛을 이용해 우리 몸 깊은 곳을 관찰하기 위해서는 충분한 빛 에너지를 전달해 반사되는 신호를 정확하게 측정해야한다. 하지만, 생체 조직에서 빛은 다양한 세포들에 부딪히며 생기는 다중산란 현상과 이미지가 흐릿하게 보이는 수차 수차¹⁾로 관찰이 쉽지 않다.

생체 조직 같은 복잡한 구조에서 빛은 여러 번 무작위하게 진행방향을 바꾸는 다중 산란을 겪는다. 이 과정에서 빛이 가진 영상 정보를 잃어버린다. 비록 아주 적은 양이더라도 보고자 하는 물체와 한번 부딪쳐 반사된 빛(단일 산란파)만 골라 수차로 인한 파면²⁾ 왜곡을 보정해주면 깊은 곳까지 관찰할 수 있다. 하지만, 다중 산란파가 이를 방해한다. 따라서 고심도 생체 영상을 얻기 위해서는 방해꾼인 다중 산란파를 제거하고 단일 산란파의 비율을 증가시키는 것이 중요하다.

IBS 연구진은 2019년에 다중 산란을 제거하고 빛의 세기와 위상을 동시에 측정할 수 있는 시분해 홀로그램 현미경³⁾을 최초로 개발하고 절개 수술 없이 살아있는 물고기의 신경망을 관찰한 바있다. 하지만 물고기보다 두꺼운 두개골을 가진 쥐의 경우 두개골에서 발생하는 심한 빛의 왜곡과 다중산란으로 두개골을 제거하거나 얇게 깎아내지 않고는 뇌 신경망 영상을 얻을 수 없었다.

연구진은 빛과 물질의 상호작용을 정량화해서 보다 더 깊은 곳까지 관찰 가능한 고심도 3차원 시분해 홀로그램 현미경을 개발했다. 다양한 각도로 빛을 넣어도 비슷한 반사파형을 가지는 단일 산란파의 특성을 이용해 단일 산란파만 골라내는 방법을 고안했다. 이는 매질(파동을 전달시키는 물질)의 고유모드를 분석하는 수치연산으로 빛의 파면 사이에 보강간섭(같은 위상의 파동이 중첩될 때 일어나는 간섭)을 극대화하는 공명 상태를 찾아내는 방법이다. 즉, 이러한 방법으로 뇌 신경망에 기존보다 80배 많은 빛을 모으고, 불필요한 신호를 선택적으로 제거해 단일 산란파의 비율을 수십 배 증가시켰다.

연구진은 기존 기술로는 불가능했던 깊이에서도 빛의 파면 왜곡을 보정했으며, 쥐의 두개골을 제거하지 않고도 가시광선 대역의 레이저로 형광 표지 없이 두개골 밑에 존재하는 뇌 신경망 영상을 고해상도로 얻는 데 성공하였다.

홀로그램 현미경의 근간을 개발해온 김문석 교수와 조용현 박사는 “복잡한 물질의 광학적 공명상태를 처음 관찰했을 때 학계에서 큰 관심을 받았다. 기초 원리에서부터 쥐 두개골 속 신경망을 관찰하기까지 물리·생명·뇌과학 인재들과 함께 연구하며 뇌신경영상 융합기술의 새로운 길을 열었다.”고 말했다.

최원식 부연구단장은 “오랫동안 연구해왔던 물리적 원리를 응용한 고심도 생체 영상 기술은 광학 현미경 영상 기술 발전에 크게 기여할 것”이라며 “뇌신경과학을 포함한 다양한 의․생명 융합 연구와 정밀 측정이 필요한 산업분야에 파급효과를 가져올 것으로 기대한다”고 말했다.

연구결과는 국제학술지 사이언스 어드밴스(Science Advances, IF 14.136) 7월 28일자 온라인 판에 게재됐다.

1) 수차: 굴절되는 정도에 따라 빛의 도달 속도가 달라져서 빛이 상을 맺힐 때 한 점에 모이지 않아 이미지가 퍼지거나 흐릿하게 일그러지는 현상

2) 파면(Wavefront): 파동의 위상이 같은 모든 점들을 연결할 때 이뤄지는 면. 가령, 잔잔한 호수에 돌을 던져 생기는 물결의 파면은 원형이다.

3) 시분해 홀로그램 현미경: 홀로그램 현미경은 2개의 레이저광이 서로 만나 일으키는 빛의 간섭효과를 이용해 빛의 진폭과 위상을 파악하는 기술이다. 특히 시분해 홀로그램 현미경은 간섭의 길이가 10㎛ 정도로 매우 짧은 광원을 이용해서 특정 깊이에서 광신호를 선택적으로 획득할 수 있다.