“지구와 에테르의 상대적 움직임에 대한 실험이 끝났습니다. 결과는 비관적입니다. 간섭무늬의 변화 값 예상치는 0.40인데 최대 변화 값은 0.02였고 평균은 0.01이었습니다.”
미국의 물리학자 앨버트 마이켈슨이 영국의 저명한 물리학자 레일리 경에게 보낸 편지의 내용 중 일부이다. 편지만 보면 마이켈슨이 진행한 실험이 실패한 것으로 보인다. 예측 치와 완전히 벗어나버린 이 실험의 결과는 1887년 11월. 미국 과학 저널(American Journal of Science)에 “지구와 발광 에테르의 상대적 운동에 관하여”라는 제목으로 발표되었다. 이 예상과 다른 결과를 보여준 실험의 파장은 후대 물리학의 흐름에 커다란 영향을 주었다. 과연 이 실험은 무엇을 알아내려고 했던 것일까.
‘빛의 정체가 무엇이냐’라는 질문의 대답은 1800년대보다 더 과거로 거슬러 올라가야 한다. 고대 그리스의 데모크리토스는 빛이 입자로 이루어져 있다고 주장했다. 반대로 아리스토텔레스는 빛이 파도와 같은 파동이라 주장했다. 이처럼 질문은 끝없이 이어졌다. 여기에 참전한 학자에는 데카르트(파동설), 뉴턴(입자설), 하위헌스(파동설) 등 당대 이름을 알린 뛰어난 사람들이 즐비했다. 이런 긴 논쟁은 1800년대 초반 영국의 의사이자 물리학자였던 토마스 영이 이중슬릿 실험을 설계하면서 파동이라는 쪽으로 확 기울기 시작했다.
이중슬릿 실험으로 나타나는 문양은 파동의 성질 중 간섭 현상으로 설명이 가능하다. 파동의 대표적인 예시로 자주 언급되는 것으로 ‘파도’가 있다. 이때 파도의 높은 곳과 낮은 곳이 존재하게 되는데 이를 마루와 골이라 부른다. 만약 두 파도가 서로 만나게 된다면 어떤 일이 벌어질까? 마루와 마루, 골과 골끼리 만나게 되면 합쳐져 더 커다란 파도가 될 것이다. 반대로 마루와 골이 만나게 되면 파도가 낮아질 것이다. 이렇게 두 파동이 만나 줄어들거나 커지는 현상을 간섭 현상이라 부른다. 토마스 영의 실험은 두 빛을 이용해 이런 간섭 현상을 보였고 이는 빛이 파동의 종류라는 것을 보여주는 강력한 증거가 되었다.
빛이 파동이라는 생각이 점점 굳어지고 있을 때, 마지막 남은 관문이 하나 있었다. 파동이라면 무조건 있어야 하는 매개 물질. 매질이 있어야 했다. 음파는 공기라는 매질을 통과하여 전파되며 파도는 물을 매질로 이용한다. 그렇다면 빛은 무엇을 통과하여 우주 공간을 질주하는 것인가. 이를 위해 과학자들은 ‘에테르’ 또는 ‘발광 에테르’라고 부르는 물질이 있다고 생각했다. 이 확인한 적 없는 미지의 물질인 에테르는 특이한 성질을 가질 수밖에 없었다. 일단 빛의 속도가 매우 빠르기 때문에 매질의 강도가 센 상태여야 했다. 그런데 문제는 에테르는 우주를 가득 채우고 있어야 하는데 강도가 세다면 행성이나 별의 움직임에 방해를 줄 수밖에 없다. 눈에 보이지 않으니 모든 빛에 투명한 성질도 가져야 했다. 이런 성질을 동시에 다 가지고 있는 것이 가능한 일인 것인가. 빛의 파동설의 마지막 관문이 너무나 높았다.
앨버트 마이켈슨은 해군사관학교 출신으로 이곳에서 물리학, 화학 교관으로 과학자로서 커리어를 시작했다. (당시 미국 대통령이던 그랜트의 특별 추천으로 사관학교에 입학한 경력이 있다.) 여러 물리학 분야 중 광학에 강한 매력을 느낀 그는 1879년 빛의 속도 측정 장치를 자체 제작하여 초속 299,864km라는 수치를 확인하였다. 이후 더 정밀한 측정을 위해 장비 개발에 집중하던 그는 1881년에 간섭계를 통해 에테르를 검출하려는 시도를 진행했다. 안타깝게도 초창기 시도는 장치의 크기가 너무 작은 탓인지 제대로 된 결과를 보여주지 못했다. 마이켈슨의 시도는 이어졌다. 해군을 전역하고 클리블랜드의 대학으로 자리를 옮긴 후 동료도 생겼다. 클리블랜드 의과대학의 화학 교수였던 에드워드 몰리가 마이켈슨의 든든한 지원군이 되어 주었다. 두 과학자는 측정 장치를 개량하며 계속 실험을 진행했다.
두 사람의 실험 장치 모습은 간단했다. 수은으로 채워놓은 통 위에 사암 덩어리를 올려놓는다. 이 사암 덩어리 위에는 광원과 반투명 거울, 반사용 거울이 설치되어 있다. 광원에서 발사된 빛은 비스듬하게 설치된 반투명 거울에 들어가 90도 각도로 갈라져 이동한다. 각각의 빛은 다시 거울에 반사되어 반투명 거울로 돌아가 검출기를 향해 움직이게 된다. 이 과정에서 갈라졌던 빛이 합쳐지게 된다. 마이켈슨과 몰리는 이 합쳐진 빛의 간섭 효과를 확인하려 했다. 만약 에테르가 존재한다면 지구 자전에 의해 두 빛의 상대적인 속도가 달라져야 했다. 속도가 달라져 각 빛의 파장이 가진 마루와 골의 위치가 어긋날 테니 간섭 효과가 보여야 했다. 이론은 완벽했다. 두 사람은 만족할 만한 결과가 나올 때까지 실험을 하기만 하면 되었다.
정작 실험은 이상한 결과를 계속해서 보여줬다. 예상치보다 단순하게 조금 적은 결과 수준이 아니라 아예 두 빛의 차이점이 거의 없는 것으로 보였던 것이다. 앞서 이야기했던 평균 0.01의 변화 값은 유효한 값이라고 하기엔 너무 작은 수준이었다. 두 사람은 다른 계절, 다른 시간대를 선택하며 실험을 반복했다. 지구 자전에 의한 에테르 속 빛의 움직임을 조금이라도 포착하기 위한 노력이었다. 그러나 그 모든 노력에도 불구하고 결과물에 차이는 없었다. 분명히 있어야 했던 에테르가 흔적도 없이 사라진 꼴이었다.
원했던 결과를 얻지 못한 이 실패한 실험은 단순하게 에테르의 존재 가능성에 의문을 던진 것으로 끝나지 않고 빛의 속도가 광원이나 관찰자의 속도와 전혀 관계없이 같다는 사실도 보여줬다. 이는 빛이 뉴턴 역학에 적용되지 않는다는 ‘광속 불변의 법칙’을 보여주는 실험이 되어버렸다. 당연하게도 해당 실험의 결과가 발표된 후 이를 해석하기 위한 다른 학자들의 노력이 이어졌다. 아일랜드의 물리학자인 조지 피츠제럴드는 움직이는 물체가 그 방향으로 수축한다는 이론을 만들어 이 현상을 설명하려 했다. 길이가 줄어들어 에테르와 상관없이 속도가 같아졌다는 뜻인데 이 이론에는 후에 같은 내용을 발표한 네덜란드의 헨드릭 로렌츠의 이름을 합쳐 ‘피츠제럴드-로렌츠 수축’이라는 이름이 붙었다.
마이켈슨과 몰리는 이 실험 이후 각자 따로 실험을 이어나갔다. 몰리는 자신들의 연구 결과에 문제가 있다 생각하여 계속된 장치 계량을 실시하였고 1902년부터 1904년까지 데이튼 밀러라는 다른 물리학자와 실험을 이어갔다. 하지만 결과는 다르지 않았다. 그리고 1905년. 이 이상한 실험의 결과를 완벽하게 해결할 이론이 세상에 등장했다. 바로 아인슈타인의 특수상대성이론이었다.
특수상대성이론은 광속 불변의 법칙에서 더 나아가 에테르의 존재를 완전히 부정했으며 ‘피츠제럴드-로렌츠 수축’보다 더 확실하게 문제를 해결했다. 이러한 내용 덕분에 상대성이론을 설명하는 대부분의 이론서 앞에는 마이켈슨과 몰리가 진행한 실험이 들어가 있다. 너무나 확실하게 빛의 속도가 일정함을 보였고 에테르의 불필요함을 보였으며 여기서 상대성이론이 출발했다고 보면 깔끔하기 때문이다. 물론 아인슈타인이 두 사람의 실험에서 영감을 떠올려 상대성이론을 설계했다고 보기는 어렵다. 후기 논문에는 이 실험에 대한 언급이 있지만 초창기에는 전혀 내용을 찾아볼 수 없었기 때문이다.
마이켈슨은 광학에 대한 연구를 이어간 끝에 1907년, 미국인 최초의 노벨 물리학상 수상자로 선정되었다. 수상 이유는 ‘광학 정밀 기기와 이 기기를 이용해 진행한 분광 및 계측 조사 연구의 공헌’이었다. 마이켈슨은 1903년 한 강연에서 이런 말을 했다고 전해진다.
“미래에 등장할 새로운 발견은 소수점 이하 여섯 자리에 있는 것이 틀림없다.”
이는 ‘새로운 커다란 발견이 생기기 어렵다.’라고 해석할 수도 있지만 그가 하고 싶었던 말은 ‘측정 능력 향상의 중요성’으로 보인다. 계속된 실험, 반복된 실패에도 몇 년에 걸친 도전은 쉽게 막을 내리지 못했다. 분명 눈에 보여야 하는 것이 보이지 않으니 자신의 실험에 얼마나 의문을 품었겠는가. 과학에서 실험을 함에 있어 항상 예상한 결과를 내놓는다는 것은 절대 있을 수 없는 일이다. 사실 대부분의 실험 실패는 그야말로 실험자의 손 문제이거나 기계 장치가 정밀하지 않아서인 경우라 할 수 있다. 그러나 만약 실험 실패의 범인으로 지목된 모든 용의자를 하나하나 조사했더니 어디에도 문제가 없다면? 정말 이론 자체에 문제가 있는 것이라면? 이런 상황을 정확하게 보여준 것이 마이켈슨과 몰리의 실험이었다.
이 실험은 과학 역사상 가장 유명한 실험 실패 사례로 뽑히기도 한다. 그들은 원하는 결과를 얻지 못했지만 과학은 더 발전하는 것에 성공했다. 이렇게 본다면 마이켈슨과 몰리의 실험은 ‘실패’가 아니라 ‘새로운 발견’이라고 보는 것이 더 좋을지도 모르겠다. 지금 이 순간에도 전혀 원하지 않았던 실험 결과 속에 허덕이고 있을 학자들이 있을 것이다. 그들 눈앞에 있는 물음표 가득한 자료와 숫자들이 또 다른 시대로의 문을 여는 ‘새로운 발견’이 되기를 기대해 본다.
참고자료
- 채드 오젤. 2023. 1초의 탄생. 21세기북스
- 이언 스튜어트. 2016. 세계를 바꾼 17가지 방정식. 사이언스북스
- 존 그리빈 외. 2017. 세상을 바꾼 위대한 과학실험 100. 예문아카이브
Copyright 2021. 의왕천문소식 김용환 연구원 All right reserved.
dydgks0148@astrocamp.net