경험증거의 역할

물리학을 포함한 자연과학은 자연현상을 기술하고 설명하는 경험과학이다. 관측이나 측정을 통해 얻은 경험증거(empirical evidence)는 경험과학의 활동에서 아주 중요한 역할을 담당한다. 경험증거는 경험과학의 이론 체계가 현상을 설명하는 데에 적절한 것인지를 직접적으로 확인한다.(주1) 이는 기존의 이론 체계가 정당하다는 것을 확인하는 과정이다.  

이와 달리 이전에 포착하지 못했던 새로운 경험증거가 나타나기도 한다. 기존의 이론 체계가 이를 적절히 설명하지 못한다면, 새로운 이론 체계를 수립해야 한다. 토머스 쿤은 이 과정을 과학혁명이라고 했다. 기존의 이론 체계가 설명하지 못하는 경험증거가 누적되면, 혁명적으로 다른 체계가 요구된다는 것이다. 천동설에서 태양중심설로, 창조론에서 진화생물학으로, 뉴턴 역학에서 상대성이론과 양자역학의 현대물리학으로 전환한 과정은 자연과학의 역사에서 이론 체계가 혁명적으로 변화한 대표적인 예다. 이론 체계의 이런 도약적인 발전에는 세계관의 근원적인 변환이 따르기도 했다.

측정의 정밀성에 대한 믿음과 결정론 

이처럼 경험증거는 기존의 이론 체계를 정당화하기도 하고 새로운 이론 체계로 전환하는 출발점이 되기도 한다. 어느 경우이건 경험과학에서 결정적으로 중요한 역할을 담당한다. 그러므로 경험과학의 영역에서는 경험증거를 어떻게 확보하느냐, 그리고 얼마나 정확한 증거를 확보하느냐가 관건이 된다. 그런데 고전물리학에서 현대물리학으로 발전하면서 경험증거의 정확성을 보는 시각이 근본적으로 바뀌게 된다.

고전역학에서는 무한히 정확하게 측정할 수 있다는 것을 전제한다. 물론, 측정 기구의 특성에 따라 측정 오차가 발생하지 않을 수 없다. 그러나 측정 기구의 성능이 개선되고 관측자의 측정 능력이 향상된다면, 이런 측정 오차를 줄일 수 있다. 측정 오차가 있다는 것을 불가피하게 인정하더라도, 적어도 원리적으로는 무한히 정확한 측정이 가능하다는 입장이다.

물체의 위치와 속도를 정확하게 알고 그 물체에 작용하는 힘의 세기를 안다고 하자. 그러면 뉴턴의 제2 법칙을 적용하여 이 물체의 위치와 속도가 이후에 어떻게 변할지를 완벽하게 알 수 있다. 과거의 위치와 속도도 완벽하게 추적할 수 있다. 과거와 미래를 정확하게 추정하고 예측할 수 있다는 점에서, 고전역학은 결정론적(deterministic)이다. 천체의 운동이 좋은 예다. 물체의 위치와 속도를 정확하게 알 수 있다는 전제가 원리적으로라도 가능할 때만 이런 결정론이 성립한다. 이런 상황은 양자역학에서 극적으로 달라진다. 이중성에서 출발하여 불확정성 원리를 통해 이를 살펴보자.

이중성과 파속 

입자와 파동에 대해 다시 생각해 보자. 입자는 언제든 특정한 한 지점에 있다고 말할 수 있다.2) 그러므로 고전역학에서 입자의 위치는 명확하게 시간의 함수로 표현된다. 이와 달리 파동은 공간적 주기성과 시간적 주기성을 모두 갖는다. 한 파장을 지나면 같은 모형이 공간적으로 반복되는 것이 공간적 주기성이고, 한 주기(period)를 지나면 같은 모형이 시간적으로 반복되는 것이 시간적 주기성이다. 파동이 시간적으로나 공간적으로 반복되므로 특별히 의미를 둬야 할 때나 지점이란 없다. 그러므로 특정한 위치를 지정할 수도 없다. 

입자와 파동의 이중성에 대해 이전에 논의한 바와 같이, 양자(quantum)는 입자와 파동의 속성을 모두 갖는다. 이 두 속성이 서로 상반됨에도 불구하고 양자역학은 이 모두를 아우르지 않으면 안 된다. 이를 위한 양자역학의 수학적 혹은 이론적 장치가 파속波束(파동의 묶음, wave packet)이다. 파장이 다른 파동을 더한 것을 파속이라고 한다. 대단히 많은 수의 서로 다른 파동을 더하면 특정 영역에서는 존재하지만, 이 영역을 벗어나면 파속이 아주 작아 거의 존재하지 않게 만들 수 있다. 양자역학은 이런 파속을 사용하여 양자를 기술한다.

파속의 특성 

특정 영역을 벗어나면 존재하지 않는다는 점에서 파속은 파동과 다르다. 그러나 파속 자체가 파동의 묶음이므로 파동의 속성을 지니고 있다. 특정 영역에서만 존재한다는 것은 입자의 속성과 비슷하다. 그러나 특정 영역의 어디엔가 있다는 것일 뿐, 명확한 위치를 모른다는 점에서 입자와는 다르다. 이처럼 파속은 입자라고 할 수도 없고 파동이라고 할 수도 없지만, 입자와 파동의 속성을 모두 지닌다. 파속은 양자역학에서 다루는 파동함수의 하나다. 파속이 시간에 따라 어떻게 변하는지를 나타내는 것이 양자역학의 동력학을 기술하는 슈뢰딩거 방정식이다.

파속은 양자의 위치를 정확하게 지정하는 대신, 양자가 어떤 위치에 있을지에 대한 확률을 제공한다. 전자구름(electron cloud)이 좋은 예다. 태양 주위를 도는 지구처럼, 전자가 어느 한 위치에 있다는 것이 아니라 어떤 위치에 있을지에 대한 확률이다. 구름처럼 퍼져 있어서 전자구름이라고 한다. 이는 양성자 주위를 도는 전자는 그 운동 양태가 태양 주위를 도는 지구와 전혀 다르다는 것을 보여준다.

뉴턴 역학은 지구의 질량 중심을 점으로 표시함으로써 지구의 위치를 명확하게 지정한다. 공간적으로 확정적이다. 지구가 지금 어디에 있는지를 알면 과거에 어디에 있었는지를 알 수 있고 미래에 어디에 있을지를 알 수 있다. 시간적으로 결정론적이다. 이와 달리, 양자역학은 전자가 어디에 있는지를 말하지 않는다. 그 대신 전자의 위치에 관한 확률분포를 제공한다. 전자가 어디에 있는지를 모르기 때문이다. 왜 이런 상황이 되는지를 불확정성 원리를 통해 살펴보자.

측정에 의한 불확정성 

위치를 측정하는 상황을 생각해 보자. 어두운 방에서 책장에 꽂힌 책을 찾으려고 한다면, 간단히 전등을 켜면 된다. (책을 찾는 것을 측정이라고 말하지 않지만, 넓은 의미에서 보면 이것도 일종의 위치 측정이다.) 전등에서 나온 빛이 책에 반사되어 내 눈으로 들어오면, 책이 어디 있는지를 알 수 있다. 이처럼 물체의 위치를 알려고 하면 위치를 알려주는 어떤 것을 그 물체와 접촉하게 해야 한다. 빛 양자인 광자光子(photon)가 책과 접촉해야 책의 위치를 알 수 있다. 전자의 위치를 알려고 해도 마찬가지다. 광자를 전자와 접촉하게 한 다음, 반사돼서 나오는 광자를 관측하면 전자의 위치를 알 수 있다.

여기까지는 모든 것이 같아 보이지만, 상황은 전혀 다르게 전개된다. 전자가 책보다 아주 가볍다는 사실이 두 상황을 극적으로 다르게 만든다. 책을 찾을 때는 광자가 책에 부딪힌다고 해서 책의 위치가 바뀌지 않는다. 책이 광자보다 아주 무겁기 때문이다. 내가 달리기를 하더라도 지구가 흔들리지 않는 것과 같다. 그러나 전자는 아주 가벼워서 광자와 부딪히고 나면, 그 충격으로 움직이게 된다. 전자의 위치뿐 아니라 속도도 변하게 된다. 전자의 위치와 속도를 변화시키지 않으면서 전자가 어디에 있는지를 아는 것은 불가능하다.

불확정성 원리 

광학이론에 의하면, 전자의 위치를 정확하게 알기 위해서는 짧은 파장의 광자를 사용해야 한다. 플랑크의 양자 가설에 의하면, 광자의 에너지는 파장에 반비례한다.(주3) 즉, 파장이 짧으면 에너지가 크다. 이에 따라 전자에 큰 충격을 주게 되므로 전자의 속도가 크게 변한다. 전자의 속도에 대한 불확실성이 커진다. 이와 반대로 파장이 긴 광자를 사용하면 에너지가 작아서 전자에 주는 충격을 줄일 수 있다. 이에 따라 속도에 대한 불확실성은 작아지지만, 위치를 정확하게 알 수 없어서 위치에 대한 불확실성이 커진다. 정리해 보자.

높은 에너지의 파장이 짧은 광자를 사용하면 위치에 대한 불확실성은 작아지지만, 속도에 대한 불확실성은 커지게 된다. 이와 달리 낮은 에너지의 파장이 긴 광자를 사용하면 위치에 대한 불확실성은 커지지만, 속도에 대한 불확실성은 작아지게 된다. 이처럼 속도와 위치에 대한 불확실성은 그 중 어느 하나가 작아지면 다른 하나가 커져야 한다. 두 물리량의 모두를 무한히 정확하게 측정하는 것은 불가능하다. 이를 수학적으로 증명하고 수식으로 정리한 것이 불확정성(uncertainty) 원리다. 

하이젠베르크의 불확정성 원리에 의하면 위치와 운동량(질량에 속도를 곱한 물리량)에 대한 불확정성의 곱은 0이 될 수 없다. 이 곱은 플랑크 상수 h를 4π로 나눈 값보다 항상 커야 한다.(주4) 플랑크 상수가 아주 작은 값이기는 하지만 0이 아니므로, 위치와 속도에 대한 측정의 불확정성은 언제나 존재한다. 이는 측정 장치의 결함이나 측정자의 미숙으로 인한 측정 오차가 아니다. 원리적인 불확정성이어서, 위치와 속도에 대해 측정하게 되면 어떤 방식으로도 피할 수 없이 항상 나타난다. 여기서 고전역학이 설정했던 무한한 정밀성에 대한 환상이 깨지게 된다. 지구와 달리, 전자의 위치를 명확하게 지정하는 것은 원리적으로 불가능하다.

불확정성 원리와 파속 

불확정성 원리에 의하면 위치와 속도의 불확정성이 모두 0일 수는 없다. 전자의 위치를 명확하게 지정한다고 해보자. 이처럼 위치의 불확정성이 0이 되면 속도의 불확정성이 무한히 커져야 한다. 속도가 무한대일 수도 있고, 한 전자의 에너지가 우주 전체의 에너지 보다 커질 수도 있게 된다. 이는 불합리하고 불가능하다. 이런 문제를 피하면서 양자를 기술하는 이론적이고 수학적인 장치가 앞에서 소개한 파동의 묶음, 즉 파속이다.

파속의 수학적 속성을 살펴보자. 파속을 한 점 부근의 영역으로 모으면 모을수록 입자성이 강화되고 파동성이 약화된다. 위치에 대한 불확정성이 줄어들고 속도에 대한 불확실성은 커진다. 이와 반대로 넓은 영역에 분포하는 파속은 입자성이 약하고 파동성이 강하다. 위치에 대한 불확실성이 크고 속도에 대한 불확실성은 작다. 어느 한 물리량의 불확실성이 커지면 다른 하나의 불확실성은 작아지게 된다. 그러나 어느 물리량도 그 불확실성이 전혀 없을 수는 없다. 파속의 이런 수학적 물리적 성질은 불확정성 원리와 잘 어울린다.

닐스 보어의 상보성과 측정에서의 나타남 

양자역학을 기초한 닐스 보어는 파속이나 불확정성 원리가 보여주는 입자성과 파동성의 이런 상호 관계를 상보성(complementarity)이라고 정리했다. 동양의 음양사상에 충격을 받았던 보어는 이 두 속성이 서로 보완적이라고 보았다. 따라서 어느 한 속성만으로 물리적 사건을 기술하는 것은 불충분하고, 두 속성을 모두 아울러야 한다고 생각했다. 현상을 완벽하게 기술하기 위해서는 두 속성이 모두 동등하게 필수적이라고 보았다.

이처럼 양자의 세계는 입자성과 파동성이 서로 보완적으로 어우러지는 세계다. 고전세계는 이와 전혀 다르다. 고전세계에서 입자는 파동일 수 없고 파동은 입자일 수 없다. 입자와 파동이 양립할 수 없는 세계다. 문제는 양자에 대한 측정에서 발생한다. 양자에 대한 측정은 양자세계의 정보를 고전세계로 가져오는 작업이다. 한 세계에서 전혀 다른 세계로 넘어가는 과정이다. 이 과정에서 파동성과 입자성의 보완적인 어우러짐이 깨진다. 우리가 사는 고전세계는 파동성과 입자성 중의 어느 하나만 드러나는 세계이기 때문이다. 양자는 입자와 파동의 두 속성을 모두 가지고 있지만, 이를 측정하면 두 속성의 어느 하나만 나타난다.

어떤 측정에서 입자성이 드러나면 같은 측정에서 파동성이 드러날 수는 없다. 이와 반대로 파동성이 드러나면 입자성이 드러날 수 없다. 양자의 어떤 속성이 드러나느냐는 전적으로 우리가 어떤 측정을 하느냐에 따라 결정된다. 따라서 양자역학에서의 측정은 객관적 사실을 그대로 보여주는 게 아니다. 우리가 어떤 방식으로 측정에 참여하느냐에 따라 그 결과의 범주가 정해지는 측정이다. 양자역학의 측정 결과는 객관 그 자체의 모습이 아니라, 주관이 참여함으로써 그 범주가 설정된 객관의 모습이다. 이 점에 대해서는 다음에 다시 논의하겠다.

참여하는 관측의 무아無我 

파동과 입자의 이중성은 도봉산이 나타나는 모습과 같다. 살펴보자. 도봉산은 하나지만 어느 방향에서 도봉을 바라보느냐에 따라 산의 모습이 달라진다. 하나의 도봉이 북한산 백운대에서 바라보면 남도봉이 되고 의정부에서 바라보면 북도봉이 된다.

북도봉이 나타나기도 하고 남도봉이 나타나기도 하지만 남도봉과 북도봉을 어느 한 지점에서 동시에 볼 수는 없는 것처럼, 양자는 상황에 따라 입자나 파동처럼 행동하지만 한 측정에서 입자성과 파동성이 동시에 드러나지는 않는다. 백운대에서 남도봉이 보이면 북도봉이 사라지고 의정부에서 북도봉이 보이면 남도봉이 사라지는 것처럼, 광전효과에서 입자성이 보이면 파동성이 사라지고 이중간섭에서 파동성이 보이면 입자성이 사라진다.

어느 곳에 가서 도봉을 보느냐는 것은 어떤 방식으로 양자를 측정하느냐와 같다. 의정부에서 보면 북도봉이 보이고 백운대에서 보면 남도봉이 보이는 것처럼, 광전효과를 측정할 때는 빛이 입자처럼 행동하고 이중간섭 실험을 할 때는 빛이 파동처럼 행동한다. 하나의 도봉이 때로는 남도봉으로 나타나고 때로는 북도봉으로 나타나는 것처럼, 관측자와 양자 사이에 어떤 실험적 맥락, 어떤 상황적 맥락, 어떤 연기적 맥락이 맺어지느냐에 따라 양자는 입자가 되기도 하고 파동이 되기도 한다.

어디서 산을 바라보느냐에 따라 남도봉이나 북도봉의 상相이 나타나고, 어떻게 참여하느냐에 따라 입자나 파동의 상相이 나타난다. 도봉도 무아無我이고 양자도 무아無我이기 때문이다. 그러면, 도봉은 어디 있고 양자는 어디 있는가? 양자를 보고 나면 도봉이 더 잘 보인다.

<각주>

(주1) 어느 한 이론 체계가 다른 이론체계와 정합적(coherent)이어야 한다는 것은 그 이론 체계가 정당하다는 것을 간접적으로 확인하는 과정이라고 볼 수 있다는 것과 대비해서 ‘직접적’이라는 용어를 사용했다.

(주2) 지구처럼 큰 물체도 그 질량 중심의 위치는 한 점으로 표시된다.

(주3) 

(주4)

저작권자(©) 월간 고경. 무단전재-재배포금지