얼음은 딱딱하고, 물은 자유롭게 흐르고, 수증기는 손에 쥘 수 없다. 이처럼 물리학에서 차원(Dimensionality)은 물질의 성질을 좌우하는 중요한 개념이다. 두께나 높이의 개념이 사라진 2차원 세상, 매우 낮은 온도에서 일부 물질은 양자역학의 지배를 받는 '기묘한 물질(Exotic matter)'로 탈바꿈한다. 기묘한 물질은 고체, 액체, 기체 등 우리가 기존 알고 있던 상(相)과는 매우 다른 새로운 상태를 말한다.

기초과학연구원(IBS) 강상관계 물질 연구단 박제근 부연구단장(서울대 물리천문학부 교수) 팀은 정현식 서강대 교수, 박철환 서울대 교수와의 공동연구를 통해 그동안 이론으로만 예측돼 온 기묘한 물질의 특징을 세계 최초로 실험으로 규명하는 데 성공했다.

▲ 우리가 흔히 보는 3차원 자석은 주변 쇠붙이를 끌어당기는 자성이 있다. 하지만 자석을 2차원으로 제작했을 때도 자성을 가질지에 대한 의문은 아직 풀리지 않았다. (출처: Wikimedia)

주변 쇠붙이를 끌어당기는 자석을 가열해 온도를 매우 높이면 자성을 잃고 보통의 쇠붙이처럼 변한다. 이런 '자성 상전이' 현상을 입자들 사이의 상호작용으로 이해하기 위해 과학자들은 세 가지 모델을 만들었다. 그 중 XY모델은 가장 독특한 특성을 가져 학계의 주목을 받고 있다.

2016년 노벨 물리학상은 XY모델을 따르는 2차원 물질의 자성 상전이 현상에 대한 이론적 토대를 마련한 세 명의 과학자에게 수여됐다. 하지만 1970년대 처음 제시된 이 이론을 실험으로 관찰한 사례는 드물다. 단원자 두께의 얇은 자성 물질을 구현하는 것이 힘들고, 이런 얇은 물질이 가지는 미세한 자성을 측정할 수 있는 실험장치 또한 없었기 때문이다.

▲ 2차원 물질의 자성을 설명하기 위한 세 가지 모델. 아이징 모델(왼쪽)은 원자의 스핀이 위(↑)나 아래(↓)의 방향을 가질 수 있다는 모델, XY모델(가운데)은 원자의 스핀이 2차원 평면 위에서 시계 바늘처럼 360도의 방향성을 가질 수 있다는 모델, 하이젠베르크 모델(오른쪽)은 스핀이 X, Y, Z축의 모든 방향을 가질 수 있다는 모델이다.

연구팀은 이번 연구에서 XY 모델의 독특한 자성 상전이 현상을 실험으로 관찰하는 데 성공했다. 우선 연구진은 반강자성체인 삼황화린니켈(NiPS3)을 이용해 단일층 자성물질을 제작했다. 삼황화린니켈은 층상구조를 가진 물질로 점착테이프를 반복해 붙였다 떼어내며 원자 한 층 두께의 시료를 만들 수 있다.

이후 라만분광법을 활용해 원자층의 개수에 따른 자성 변화를 관찰했다. 그 결과, 수 원자층 두께의 시료에서 관찰되던 자기 상전이가 단일 원자층 시료에서는 나타나지 않음을 확인했다. 덩어리(bulk) 형태의 삼황화린니켈은 155K(-118.15℃) 이상의 온도에선 반강자성 정렬이 풀리는 자성 상전이 현상이 나타났다. 단 2개 층으로 이뤄진 시료 역시 유사했다.

▲ 연구진이 만든 삼황화린니켈의 모습.

이와 달리 단일층 시료는 실험에서 측정한 가장 낮은 온도인 25K(-248.15℃)에서도 자성 상전이가 나타나지 않았다. 2016년 노벨물리학상의 주요 내용인 XY모델을 따르는 물질을 2차원 소재로 제작했을 때, 자성상전이를 가질 수 없다는 KT이론을 실험적으로 증명한 셈이다.

박 부연구단장은 "갈릴레오 갈릴레이가 달을 관측하는 도구를 개발해 지동설이란 새로운 이론을 만들어낸 것처럼, 이론을 실험으로 증명하는 과정에서는 인간이 예측하지 못했던 중요한 발견이 이뤄진다"며 "이번 연구는 2차원 원자층 물질의 자성현상에 대한 새로운 돌파구를 제시한 것으로 향후 자성 반도체, 스핀전자소자 등의 개발에도 응용되리라 기대한다"고 말했다.

▲ 박제근 IBS 강상관계 물질 연구단 부연구단장, 정현식 서강대 교수, 박철환 서울대 교수(왼쪽부터).

연구결과는 국제학술지 '네이처 커뮤니케이션즈(Nature Communications)'1월 21일자에 실렸다.

IBS 커뮤니케이션팀
권예슬