우주는 우리가 눈으로 보는 별과 은하만으로는 설명되지 않는다. 정체가 밝혀지지 않은 ‘암흑물질’이 우주 전체 질량·에너지의 약 27%를 차지하고 있기 때문이다. 이 미지의 물질을 찾기 위한 수많은 탐색 연구가 진행되는 가운데, 1998년 이탈리아 그랑사소 지하실험실의 ‘다마(DAMA/LIBRA) 실험’ 연구팀이 암흑물질의 신호를 포착했다고 발표했다. 하지만 이 신호는 명확히 검증되지 못했고, 진위를 두고 뜨거운 논쟁이 시작됐다.

기초과학연구원(IBS, 원장 노도영) 지하실험 연구단(연구단장 김영덕)이 이끄는 ‘코사인-100(COSINE-100)’ 국제 공동연구팀은 단독 분석 연구를 통해 이탈리아 다마 실험이 포착한 신호가 암흑물질의 증거가 아님을 입증하는 데 성공했다. 나아가 국제 공동 연구를 통해 교차검증함으로써, 세계 최고 수준의 신뢰도로 25년 넘게 이어진 논쟁에 마침표를 찍었다.

약하게 상호작용하는 무거운 입자를 뜻하는 ‘윔프(WIMP)’는 암흑물질의 유력한 후보 중 하나다. 윔프는 전자나 양성자보다 훨씬 무겁지만, 빛이나 다른 물질과 거의 상호작용하지 않아 검출이 어렵다. 다만 아주 드물게 물질 속 원자핵과 충돌해 생긴 극히 미약한 섬광(빛)을 전기적 신호로 변환해 초정밀 검출기로 포착할 수 있다. 이를 위해 지하 깊은 곳에서 우주선(cosmic rays) 등 배경 잡음을 최소화한 실험이 필요하다.

이때 지구가 태양을 공전하면서 은하 내 암흑물질과의 상대 속도가 달라지고, 이에 따라 검출기에 포착되는 충돌 신호의 빈도가 계절적으로 변할 수 있다. 따라서 검출기 데이터에는 매년 주기적으로 세기가 변하는 ‘연간 변조 신호’가 나타날 것으로 예측된다. 다마 연구팀은 배경 잡음은 연중 일정하다는 전제하에 관측한 변조 신호가 윔프에 의한 것이라고 주장했다. 그러나 다른 어떤 실험에서도 같은 신호가 재현되지 않으면서 이것이 암흑물질의 결정적 증거인지, 아니면 실험적 오류인지에 대한 의문은 세계 물리학계의 오랜 난제로 남았다.

IBS 지하실험 연구단은 다마 실험을 직접 검증하기 위해, 2016년 강원도 양양 지하 700m에서 코사인-100 실험을 시작했다. 이 실험은 다마 실험과 동일한 고순도 요오드화나트륨(NaI(Tl)) 결정을 이용한 검출기를 사용해 실험 간 비교에서 발생하는 불확실성을 원천적으로 제거하고, 다마 신호를 직접 검증하는 것이 목표였다. 연구진은 2016년부터 2023년까지 6년 넘게 수집한 데이터를 정밀하게 분석했으며, 다마와의 직접 비교를 위해 에너지 측정 방식을 다마와 동일하게 적용하는 등 분석 정밀도를 극대화했다.

분석 결과, 코사인-100 실험에서는 다마가 주장한 암흑물질 연간 변조 신호가 나타나지 않았다. 이는 3시그마(신뢰도 99.7%)를 넘는 수준에서 다마의 주장을 반박하는 결정적 결과였으며, 특히 다마가 신호를 발견했다고 주장하는 1-3 킬로전자볼트(keV) 에너지 영역에서는 3.57시그마에 달하는 신뢰도를 확보했다. 즉 다마가 주장한 신호는 암흑물질에 의한 것이 아니며, 동일한 실험 조건에서 재현될 수 없음을 명확히 보여준 것이다.

이어 연구진은 경쟁 연구팀 중 하나인 스페인 아나이스(ANAIS)-112 실험팀과 공동 연구를 통해 교차검증에 나섰다. 이나이스-112는 스페인 칸프랑크 지하실험실에서 코사인-100과 동일한 요오드화나트륨 결정을 사용해 독립적으로 실험을 이어왔다. 두 팀은 각각의 최신 6년 간의 데이터를 종합해 분석했으며, 다마가 주장한 신호를 4.68시그마라는 압도적 신뢰수준으로 부정했다. 5시그마의 신뢰수준이 과학계에서 ‘새로운 발견’으로 인정받는 기준임을 고려할 때, 다마의 신호가 암흑물질에 의한 것일 가능성을 일축하는 결과다.

실험을 주도한 이현수 지하실험 연구단 부단장은 “수년간의 노력 끝에 한국이 주도한 실험으로 세계 물리학계의 오랜 난제에 답을 제시할 수 있어 기쁘다”라며, “특히 두 독립적인 실험이 같은 결론에 도달한 이번 공동연구는 완벽한 교차 검증의 성공 사례”라고 강조했다.

김영덕 지하실험 연구단 단장은 “이번 연구는 국제 협력을 통해 오랜 과학적 논쟁을 종결지은 의미있는 성과이자, 한국이 세계 암흑물질 연구를 이끄는 핵심 주체로 자리매김했음을 보여주는 결과”라며, “앞으로 정선 예미랩에서 시작될 차세대 실험을 통해 다마 신호의 기원을 밝히고, 새로운 암흑물질 탐색을 이어나갈 계획”이라고 전했다.

한편, 양양에서의 임무를 마친 코사인-100 실험은 현재 정선에 새로 구축된 지하 1000m 깊이의 실험실 예미랩으로 옮겨 성능을 한층 높인 ‘코사인-100U(COSINE-100U)’ 실험을 준비하고 있다. 새 검출기에 섬광 수집 효율을 약 45% 향상시키는 신기술을 적용해 기존보다 더 낮은 에너지 영역까지 탐색 범위를 확장하고, 낮은 질량 암흑물질 탐색 등 새로운 영역에 도전할 계획이다.

IBS 코사인-100 연구팀의 단독 연구는 세계 최고 권위 학술지 ‘사이언스 어드밴시스(Science Advances, IF=12.5)’에 9월 4일 게재됐으며, 아나이스-112 연구팀과의 교차검증 연구는 ‘피지컬 리뷰 레터스(Physical Review Letters, IF=9.0)’에 에디터 제안 논문(Editor’s Suggestion)으로 출판될 예정이다.

그림 설명

[그림 1] 코사인 검출기의 모식도
(a) 검출기 모듈. 2m×3m×2m 크기 납 차폐체 안에 구리박스가 있고, 구리박스 내에 광증배관이 부착된 검출기가 액체섬광체로 둘러싸여 있다. 이 차폐체의 벽면은 플라스틱 섬광체 패널(파란색), 납 벽돌(회색) 및 구리박스(황갈색)로 이뤄진 여러 겹의 차폐체로 구성된다. 윔프 신호가 아닌 외부 방사선이나 우주선으로부터 오는 신호를 막기 위해서다. (b) 사방 약 40cm 두께의 액체섬광체. 차폐체 내부에서 검출기를 한 번 더 감싸 안정적인 검출 환경을 구축한다. (c) 구리로 캡슐화된 광증배관이 부착된 검출기. 광증배관과 함께 구리로 캡슐화된 요오드화나트륨 결정을 보여주며 이와 같은 검출기 8개가 설치되어 있다. 입자가 결정에 부딪힐 때 발생하는 빛(가시광선) 알갱이가 광증배관을 통해 전기신호로 증폭되어 신호를 확인할 수 있다.

[그림 2] 코사인-100 연간 변조 신호 탐색 결과
25년간 논란이 된 다마(DAMA) 실험의 신호와 이를 검증한 코사인-100 실험의 최종 분석 결과를 한눈에 비교하여 보여준다. 그림의 세로축은 신호의 세기, 가로축은 신호가 가장 강해지는 시점을 나타낸다. 다마 실험이 암흑물질의 증거라고 주장한 강한 신호는 이론적 예측 시점(가로축 152.5일, 6월경) 근처에서 높은 값(검은색 십자)으로 나타난다. 반면, 코사인-100의 최종 분석 결과(붉은 점과 푸른 음영 지역)는 신호의 세기가 ‘0’에 가까운, 즉 ‘신호 없음’을 명확히 보여준다. 가장 중요한 점은 다마의 측정값(검은색 십자)이 코사인-100의 측정 영역(푸른 음영)에서 완전히 벗어나 있다는 것이다. 이는 두 실험 결과가 통계적으로 전혀 일치하지 않음을 시각적으로 증명하며, 다마가 관측한 신호가 암흑물질이 아님을 보여주는 결정적 증거이다. 왼쪽(A)과 오른쪽(B) 그림은 각각 다른 에너지 조건에서 분석한 결과로, 어떤 경우에도 동일한 결론이 나옴을 보여주어 이번 결과의 신뢰성을 더한다.

[그림 3] 다마, 코사인-100, 아나이스-112 최종 결과 종합 비교
다마(DAMA/LIBRA, 청록색)가 주장하는 암흑물질 신호와, 이를 검증한 코사인-100(파란색), 아나이스-112(빨간색)의 6년간 최종 결과를 종합적으로 비교한 그림이다. 보라색 점은 두 검증 실험의 데이터를 합친 결과로, 현재까지 가장 정밀한 측정값을 의미한다. 다마의 측정값은 ‘신호 없음(0)’을 가리키는 두 검증 실험의 결과와 극명한 차이를 보이며, 특히 1-6 keV 에너지 영역(왼쪽)에서는 둘을 합친 결과로부터 4.68시그마(σ) 수준으로 크게 벗어나 있다. 이는 통계학적으로 두 결과가 동일할 가능성이 거의 없음을 의미하며, 다마 미스터리가 재현 불가능함을 증명하는 결정적 증거이다.

[사진 1] ‘다마 미스터리’를 해결한 코사인-100 국제 공동 연구진
25년간의 암흑물질 미스터리를 해결한 코사인-100 국제 공동 연구진의 모습니다. 기초과학연구원(IBS) 지하실험 연구단을 중심으로 대한민국, 미국, 영국, 브라질, 인도네시아 등 5개국 19개 기관의 연구자들이 참여하고 있다. 이번 성과는 수년간 이어진 긴밀한 국제 협력과 끈기 있는 데이터 분석의 결실이다.

[사진 2] 암흑물질의 흔적을 포착하는 코사인-100 검출기
‘다마 미스터리’를 검증하기 위해 다마 실험과 동일한 물질로 제작된 코사인-100의 고순도 요오드화나트륨 결정 검출기의 배열이다. 총 106kg에 달하는 이 검출기들은 암흑물질 후보인 윔프가 결정 속 나트륨이나 요오드 원자핵과 충돌할 때 발생하는 아주 작은 빛 신호를 감지하도록 설계되었다. 극도로 희귀한 신호를 포착하기 위해, 검출기들은 2,200리터의 액체섬광체에 잠겨 외부 방사선을 효과적으로 차단하는 등 다중 차폐 구조 속에서 운영된다.

[사진 3] 한국 암흑물질 탐색의 출발점, 양양 지하실험실(Y2L)
강원도 양양 지하 700m에 위치한 Y2L은 2003년 개소한 국내 최초의 지하실험 전용 시설로, 지난 20여 년간 암흑물질과 중성미자 연구의 중심지 역할을 해왔다. 우주선과 외부 방사선을 효과적으로 차단할 수 있는 환경을 갖추고 있어, 극미량의 신호를 탐지해야 하는 실험에 최적의 조건을 제공하였다. 이곳에서는 IBS 지하실험 연구단의 전신인 한국암흑물질탐색그룹(KIMS)의 실험을 시작으로, 암흑물질을 관측하는 코사인‑100 실험, 중성미자를 탐색하는 아모레 실험 등이 수행되며 국내 암흑물질 연구를 세계적 수준으로 끌어올렸다. 현재는 정선에 구축된 차세대 지하실험 시설 예미랩(Yemilab)으로 연구 무대를 옮기며, Y2L은 역사적 임무를 마친 상징적인 연구 현장으로 남아 있다.

[사진 4] 우주 입자 관측을 위한 지하 요새, 예미랩(Yemilab)
강원도 정선군 한덕철광 지하 1,000m에 위치한 신규 지하실험시설 예미랩의 터널 모습이다. 우주에서 쏟아지는 방사선(우주선)의 영향을 최소화하기 위해 깊은 지하에 건설된 예미랩은 우주의 비밀을 파헤치는 최첨단 기초과학 연구의 새로운 요람이다. 2022년 완공된 이곳은 기존 양양 지하실험실(Y2L)을 대체하며, 본 연구의 주인공인 ‘코사인-100U’ 암흑물질 탐색 실험이 진행될 새로운 무대이다. 또한, 중성미자의 본질을 탐구하는 ‘아모레-II’ 실험과 차세대 거대 중성미자 검출기 설치 등 세계적인 연구들이 이곳에서 진행되거나 계획되고 있다.