과학이론은 얼마만큼 믿을 수 있는가?

언젠가 한 유명한 과학자(어떤 이는 그가 유명한 철학자이기도 한 버트런트 러셀이었다고 말한다)가 천문학에 대한 대중 강연을 한 적이 있다. 그는 지구가 태양 둘레를 돌고, 태양은 다시 우리 은하라고 부르는 엄청난 크기의 항성들 집합의 중심 주위를 돌고 있다고 설명했다. 강연이 끝나갈 무렵, 몸집이 작은 한 노부인이 뒷좌석에서 일어나더니 이렇게 말했다. “당신이 한 말은 모두 쓰레기 같은 소리로군. 내가 사실을 이야기해주리다. 이 세계는 거대한 거북 등에 얹힌 납작한 판이라고.” 그 과학자는 여유 있게 웃고는 이렇게 물었다. “그러면 그 거북은 어디에 올라서 있나요?” 그러자 그 부인은 한심하다는 투로 이렇게 대꾸했다. “이봐요 젋은 양반. 아니 그것도 모른단 말이우? 그 아래는 모두 거북들이라니까. 글쎄!” (스티븐호킹, 시간의 역사, 2)

스티븐 호킹이 쓴 시간의 역사의 첫 구절이다. 힌두 신화에 따르면 이 세상은 사방에서 거대한 코끼리들이 떠받치고 있다고 전해진다. 그러면 코끼리는 무엇을 딛고 서있는가? 위에 등장한 노부인의 설명처럼 코끼리들은 더욱 거대한 거북의 등을 밟고 서있다. 그러면 그 거북은 무엇을 밟고 있는가? 거북은 거대한 뱀 위에 놓여 있고, 이 뱀이 세상의 모든 것을 완전히 둘러싸고 있다.

노부인의 이 같은 주장에 대해 보였던 유명한 과학자의 그 여유 있는 웃음은 아마 우리가 일반적으로 취하게 되는 태도 혹은 감정과 유사할 것이다. 우리는 나름의 설득력 있는 이유와 근거를 들어 대지를 떠 받들고 있는 거북은 존재하지 않다고 말 할 수 있으며, 우리는 꽤나 합리적인 근거를 가지고 우리의 지구가 우리 은하라고 하는 거대한 성단 주위를 회전하고 있다고 말할 수 있다. 그리고 최종적으로 우리는 이러한 근거들과 믿음들을 바탕으로 이렇게 말할지도 모른다. “이봐요 노부인. 그런 거북들은 존재하지 않아요.”

거북들이 존재하지 않는 그 근거와 믿음들을 우리는 '과학'이라는 이름으로 부르고 있다. 여기서의 방점은 거북이 존재하지 않는다에 있지 않고, 과학이라는 단어에 찍힌다. 왜 우리는 과학을 신뢰하고 있는가. 신뢰할 수 있다면 얼마나 신뢰할 수 있는가. 얼마나 믿을 수 있는가. 호킹이 자신의 저서의 서두에서 전해준 원시적 우주 신화의 거북 은유는 역설적으로 이 같은 질문을 던져준다.

플로지스톤에서 산소까지 [1]

플로지스톤의 개념은 슈탈이 내놓은 인화성과 연소성에 대한 원리이다. 이 개념은 불의 속성에 대한 아리스토텔레스의 이론 및 연소의 원리인 황에 관한 연금술 이론에서 도출된다. 두 이론에 따르면, 어떤 것이 점화되어 불길이 타오르는데, 이는 연소 과정의 일부로 불 또는 황이 반드시 개입됨을 보여주는 것이다. 나뭇조각에 열을 가하면 마침내 불길이 타오른다. 따라서 나무에는 불 또는 황이 들어 있음이 분명하다. 쇳조각에 열을 가하면 불길이 타오르지 않고 녹는다. 따라서 어떤 물질이 탈 때는 불이나 황, 또는 플로지스톤을 대기로 방출한다.

닫힌 공간, 가령 밀폐 용기 내에서 무언가를 태우면 결국 그 물질은 용기 내의 산소가 소진되면서 더 이상 타지 않는다. 하지만 슈탈은 이 경우 더 이상 타지 않는 까닭은, 아주 많은 플로지스톤을 용기로 방출했으므로 용기 안의 공기가 플로지스톤으로 포화되어 플로지스톤을 흡수할 수 없기 때문이라고 여겼다.

한가지 예를 더 들어보자. 오늘날 금속산화물이라고 불리는 금속회를 가열할 때 생기는 일에 관한 설명을 생각해면, 오늘날 우리는 금속회가 산소를 주위 공기에 내놓고 금속이 남는다고 말한다. 그러나 플로지스톤 이론에 따르면, 금속회를 가열하면 플로지스톤이 금속회와 결합하여 금속이 된다. 대다수 금속의 경우 이것은 가역반응이기에, 금속회를 가열하여 생긴 금속을 다시 가열하면 공기 중의 산소와 결합하여 다시 금속회로 되돌아간다. 적어도 우리는 그렇게 알고 있다. 하지만 플로지스톤 이론에 따르면, 가열된 금속은 플로지스톤을 공기 중으로 내놓고 금속회라는 원소 형태로 되돌아간다.

슈탈이 플로지스톤 이론을 주장하면서 금속회를 원소의 한 형태로 여겼다는데 주목할 필요가 있다. 우리에게는 금속이 원소이며, 이것은 금속회의 형태로 있을 때는 다른 원소인 산소와 결합되어 있는 상태로, 금속산화물을 원소로 여기는 것은 오늘날의 관점에서는 틀린 생각이다. 그러나 원소를 자연적인 무엇으로 대체하면 슈탈의 설명이 이해가 된다.

금속은 일반적으로 금속 광석이라는 형태의 광물염으로 땅에서 채굴되며, 이 광석을 가공해야 순수한 금속이 생긴다. 다시 말해, 슈탈에게는 금속회가 자연상에 있는 자연적인 형태였다. 그는 금속을 가열하더라도 불길이 타오르지 않는다는 점은 분명히 알고 있었지만 금속 광석과 금속의 차이를 설명하기 위해 플로지스톤을 끌어들일 필요가 있었고, 아울러 그것 때문에 광석은 돌의 모습인데 비해 금속은 광택이 나는 모습이라고 설명한다.

플로지스톤에 따른 슈탈의 이 같은 연소 이론은 18세기 후반에 일어난 이른바 화학혁명 이후부터 흔들리게 된다.

1756년 스코틀랜드의 자연철학자 조지프 블랙은 탄산마그네슘을 가열하여 얻은 고정된 공기(이산화탄소)가 보통의 공기와 다르다는 것을 깨달았다. 조지프 블랙의 이 발견은 곧 공기에는 많은 종류의 발견으로 이어졌다. 1766년에 헨리 캐번디시는 황산이 금속을 부식시킬 때 생기는 기체를 모아 타지않는 공기(소수)가 존재함을 알아냈다. 1772년 초에는 프리스틀리가 이런 새로운 종류의 공기를 발생시키고 분류하는 실험 과제에 동참하였고, 이후 2년에 걸쳐 초석공기(산화질소), 해산공기(염화수소산 기체), 알칼리 공기(암모니아), 황산 공기(이산화황), 탈플로지스톤 초석 공기(이산화질로) 그리고 오늘날 산소라고 부르는 것을 발견했다.

한편 프랑스에서는 앙투안 라부아지에가 헤일스의 연구에 관한 기욤 프랑수아 루엘의 강의를 돋고 나서 물질 속에 고정되어 있다는 공기가 화학적으로 결합되어 있는지, 아니면 단지 시료 속의 구멍이나 주머니에 갖혀 있을 뿐이지를 고찰했다. 하지만 또 하나의 가능성으로, 고정된 공기란 가상의 개념으로, 물체를 분해하기 위해 열을 가하는 동안 새로 생성되는 것일지도 모른다는 가정을 하였다.

여기서 출발하여 1766년 즈음에 라부아지에는 불이 난 후 비팽창성 공기를 내놓는 가열이란 개념을 처음 떠올렸다. 가열 또는 연소를 불의 질료 즉, 플로지스톤의 방출이 아니라 공기의 흡수라는 관점으로 파악할 수 있는 기초 개념을 확보한 것이다.

1772년 라부아지에는 파리 왕립과학아카데미 소유의 큰 볼록렌즈에 접근할 권한을 얻고 이를 이용하여 헤일스의 연구를 되풀이해보았다. 또한 이 렌즈를 이용하여 연소의 결과물이 적어도 일부 경우에는 타기 전의 원래 시료보다 더 무거워진다는 곤혹스러운 주장이 옳은지 실험을 해 보았다. 플로지스톤 이론에 따르면 연소는 플로지스톤의 방출을 초래하므로, 가령 산화납은 납 자체보다 더 가벼워야 했다. 볼록렌즈로 태우기 전과 후의 시료의 무게를 정밀하게 재어보고서 라부아지에는 연소는 언제나 무게를 증가시킨다는 사실을 밝혀냈다. 그리고 아부아지에는 그 전에 어렴풋이 짐작했던 내용을 확신하게 되었다.

이제 가연성 공기의 연소는 라부아지에의 체계대로 산소와의 결합으로 볼 수 있게 되었다.

에테르 [2]

물체와 빛은 상호 간에 서로 변하지 않겠는가? 그리고 물체는 자신의 구성 요소들 속으로 들어오는 빛 입자로부터 대부분의 활동 능력을 받지 않겠는가? .... 빛은 우리에게 알려진 현상 가운데 가장 활발한 것이므로 활동성의 주된 원리가 왜 아니겠는가?

뉴턴의 저술인 광학의 말미에 뉴턴은 자칭 의문이라는 많은 짐작들을 포함시켰다. 이 의문들로 볼 때 뉴턴은 빛이 우주의 활동 원리, 즉 모든 운동의 배후에 작용하는 일종의 기동력이라는 연금술 사상을 받아들였음을 알 수 있다. 뉴턴은 실제로 연금술을 연구하는데 많은 시간을 바쳤다. 그러나 납을 황금으로 변환시키려고는 하지 않았으며, 다만 물질의 운동과 활동성의 비밀스러운 근원을 찾고자 했다. 그러한 생각은 1675년 ‘빛의 성질을 설명하는 가설들’을 왕립협회에 보낼 때에도 그대로 묻어 나온다.

아마도 자연의 전체적인 틀은 어떤 에테르성 정기나 증기의 다양한 조직들이 이를테면 침전에 의해 응결되는 것에 지나지 않을지도 모른다. 증기가 물로 응결되거나 그리 쉽게 응결되진 않지만 내쉬는 숨이 뿌옇게 변하는 현상과 매우 흡사하다. 그리고 응결된 후에 다양한 형태를 지니게 되었는데, 그런 일이 처음에는 창조주의 손으로 직접 일어났고, 이후에는 줄곧 자연의 힘으로 일어났다. 자연은 통솔, 증가 및 번식을 통해 원형질의 복제품들을 완벽하게 모방해냈다. 그러므로 모든 것은 에테르에서 비롯되었을지 모르며..... 빛과 에테르는 상호작용한다.

테카르트는 빛이란 우주를 가득 채우고 있는 물질 속을 비집고 전달되는 일종의 압력 파동이라고 제안하고서도, 종종 광선의 작용을 벽에 튕겨 나오는 공에 비유해 설명하곤 했다. 하지만 뉴턴은 우주가 대부분 물질이 비어 있는 공간으로 보았기 때문에 빛을 입자의 흐름으로 다루는데 아무런 거리낌이 없었다. 그러나 영국 왕립연구소의 자연철학 교수였던 토머스 영은 음파의 성질을 연구한 탓에 빛의 압력 파동 이론을 지지했다. 이는 뉴턴도 이른바 에테르 의문들에서 암시했던 것이다.

이때 빛이 이중 슬릿을 통과할 때 생기는 영의 간섭 패턴 실험 및 분광 현상을 바탕으로 프레넬은 빛이 파동일 뿐 아니라 틀림없이 횡파라는 설득력 있는 주장을 폈다. 이전에 나온 빛에 관한 파동 이론들은 빛이 소리처럼 파동이 통과하는 매질의 밀도 변화로 이루어진다고 가정했다. 그러나 프레넬이 주장한 횡파는 빛이 어떻게 작동하는지에 관한 물리적 모형을 구성하는데 곤란한 문제를 야기했다. 편광현상을 관찰하고 빛이 횡파임을 알아차린 영도 1823년에 이 이론에 따르면 에테르가 매우 탄성이 높아야 할 뿐 아니라 절대적으로 견고해야 한다는 점을 지적했다.

한편 1820년에 있었던 우연한 발견 덕분에 전기와 자기에 관한 이론들이 극적으로 발견하고 있었고, 마침내 1865년 맥스웰에 의해 정리된 전자기이론에 의해 에테르의 기계적 모형을 버리고, 대신에 전자기장의 수학적 모형에 집중하기 시작했다. 맥스웰은 전자기적 매질을 통한 파동의 전달 속도를 계산했더니 빛의 속도였다는 것을 보이며 다음과 같은 결론을 내놓았다.

"빛은 전기 및 자기 현상의 원인이 되는 것과 동일한 매질의 횡파로 이루어져 있다고 추론하지 않을 수 없다."

설상가상으로 실험을 통해 에테르의 존재를 규명하려는 노력들도 실패를 거듭하고 있있다. 이런 시도 중 가장 유명한 사례가 앨버트 마이컬슨이 여러 해에 걸쳐 실시한 실험이었다. 이 실험에는 나중에 에드워드 몰리도 참여했다. 마이컬슨과 몰리가 한 실험은 공간상의 서로 다른 여러 방향에서 빛의 속도를 측정하는 일이었다.

이 실험의 의도는 지구의 운동으로 인해 빛의 속도에 어떤 변화가 생기는지를 알아내는 것이었다. 지구가 에테르 속을 움직인다면, 분명 에테르 바람이 일어나야 한다. 이 바람 방향으로 진행하다가 반사되어 바람의 반대 방향으로 되돌아오는 광선의 속도는 바람의 진행 방향으로 가로질러 나아가는 광선의 속도와 다르게 측정되어야 마땅하다.

분명 그래야한다. 하지만 마이컬슨과 몰리가 알아낸 바로는 그렇지 않았다.

무엇을 얼마나 믿을 수 있는가

빛은 입자로 구성되어 있고 따라서 뉴터의 운동 법칙 또한 광학 현상의 이면에서 이를 통제하고 이해해야 한다는 식으로 간주되고 있었다. 그런데 맥스웰의 전자기학이 널리 받아들여지게 되었을 때 많은 물리학자들은 어떻게 하든 나중에 맥스웰 이론은 뉴턴 이론으로 환원될 것이라고 가정하였기 맥스웰 이론은 뉴턴 이론의 위상을 결코 논박하지 못한다고 생각하였다. 이러한 고전물리학에 대한 신뢰성은 지속되어, 19세기 말경에는 일부 물리학자들은 자신들의 연구 주제가 곧 바닥날 것이며, 단지 몇 가지 문제들만 해결되기를 기다리고 있을 뿐이라고 확신하였다.

그러나 곧이어 방사능의 발견은 전적으로 새로운 탐구영역을 열어놓았고, 결과적으로 두 개의 새로운 기본 힘들을 전제하도록 만들었는데, 그 이전까지 고전물리학은 중력과 전자기만을 기본힘으로 간주했었다. 여기에 더 나아가 아인슈타인의 특수상대성이론과 일반상대성이론은 중력과 시간, 공간을 이해하는데 대혁명을 만들었다.

따라서 오늘날에 와서는 과학에 대해 큰 신뢰를 가지고 있지만, 현대의 최선의 과학이론들 모두는 결점이 없으며 전부 완전하다고 생각하지는 않는다. 성공적인 과학이론들이 예기치 못한 방식으로 개정되거나, 예상치 못한 새로운 현상들이 발견되는 등의 상황이 많이 있어왔기 때문에, 가장 정교한 과학조차도 개정되거나 교정될 수 있다는 사실은 더욱 분명해졌다. [3]

앞서 본 플로지스톤 연소 이론은 우리에게 불이 붙는 원리와 이유를 그럴듯하게 설명해 주고 있었다. 또한 일반적으로 접할 수 있는 산화물 형태의 광물이 불에 타지 않는다는 것까지 이 이론을 통해 설명해주고 있다. 보다 정교환 관측과 실험의 결과는 플로지스톤이 공기중으로 방출되는 것이 아닌, 공기로부터 무엇인가 흡수되어 연소가 일어나며 그 결과로 질량이 늘어남을 관측함으로써 플로지스톤 이론은 배척당한다.

에테르 역시 마찬가지다. 빛의 입자적 성질과 파동적 성질의 논쟁에 있어, 실험적으로 관측된 빛의 파동적 성질, 특히 횡파의 성질을 빛이 지녔다면 공간상에 파동의 매질이 존재해야한다는 합리적인 판단과 결론으로 에테르를 가정하게 되었다. 빛의 매질이 존재해야한다는 논리적 접근은, 전자기학이 예측한 빛의 속력과 실제 측정되 빛의 속력이 일치함과 거듭되는 에테르 측정 실험의 실패로 배척당한체 수리적논증방식으로 전환된다.

플로지스톤과 에테르를 포함한 과학사에 등장하는 많은 이론들은 모두 한때는 경험적으로 성공하였지만, 결과적으로 이치에 맞지 않거나 오늘날의 우리들이 믿고 있는 이론들을 지시하지 않는 부분들을 다수 포함하고 있었음을 알 수 있다. 그리고 이러한 사실을 바탕으로 다음과 같은 비관적인 결론을 내릴 수 있다.

"과학사에서 볼 때 한때는 경험적으로 성공적인 이론이었으나 이후에 배척당한 이론들이 많이 있다. 우리들이 최선의 이론들도 배척당한 과거의 이론들과 본질적으로 차이가 없으며, 그래서 우리들의 이론들 또한 궁극에 가서는 다른 이론들에 의해 대체되지 않을 것이라고 생각하지 않을 만한 근거가 없다. 따라서 우리들은 최선의 이론들이 지시하는 바를 믿지 않아야 한다."

다음의 두 문장을 비교해 보자.

(A) 위로 던져진 돌은 떨어진다. 왜냐하면 돌과 지구 사이에 중력이 작용하기 때문이다.

(B) 돌은 위로 던져지면 항상 떨어진다고 믿어도 되지만, 돌과 지구 사이에 중력이 작용한다고 믿을 필요가 없다. [4]

a. 과학의 발전은 우리에게 중력의 작용으로 인해 위로 던져진 돌이 떨어질 것이라는 합리적인 근거와 논리를 가져다 주었다. 이러한 근거와 논리는 돌을 어떻게 던져 어떻게 움직일 것인지, 혹은 언제 어디로 떨어질 것인지를 예측 할 수 있게 도와주었고, 이러한 경험적 증거를 바탕으로 중력의 작용에 의해 돌이 떨어질 것이라고 말할 수 있게 되었다. 

b. 돌은 위로 던져지면 항상 아래로 떨어진다는 것은 주지의 사실이다. 그러나 그 원인이 돌과 지구사이의 중력의 작용만으로 볼 수는 없으며, 거북의 등껍질에 붙은 작은 천사들이 끌어 당기거나, 돌맹이가 흙이라는 원소의 본원으로 돌아가려는 성질에 의해 아래로 떨어지는 등의 다양한 가능성들이 있다. 때문에 이 같은 다양한 가능성 속에서 우리는 어느 하나의 이론을 믿을 필요는 없다.

근사적 진리와 이상화

돌이 땅에 다시 떨어지는 과정을 두고 그 원인에 대해 신화나 아리스토텔레스의 4원소설, 그리고 뉴턴역학과 아인슈타인의 일반상대성이론을 동일선상에서 비결정성의 문제를 따질 수 없음을 우리는 알고 있다. 신화적 설명은 관측되고 측정되지 않는다는 점, 4원소설은 화학이론의 발전에 따라 그것이 부정됨을, 뉴턴역학에 비해 일반상대론이 보다 정밀하며 일반적이지만, 일상적 상황에서는 두 이론이 동일하다는 것 역시 알고 있다. 우리는 이것을 어떻게 알고 있는가? 신화에서 일반상대론으로의 연결점과 그 변화 과정에는 다음의 두가지 공통점이 숨어있다.

하나는 신기한 예측, 다른 하나는 점근적 접근이다.

새로운 이론은 과거의 이론이 설명하지 못했던 현상을 설명해 내거나, 앞으로 기대되는 결과를 예측하고 그것이 직접 관측에 의해 규명되었을 때와 같은 신기함을 전해준다. 그리고 그 이론들은 모두 절대적 진리 혹은 절대적 참이 아니라 근사적으로 진리에 근접해가고 있음을 볼 수 있다. 가령, 하늘로 던져올린 돌이 다시 땅에 떨어지는 이유를 설명함에 있어, 천사들이 거북의 등 위로 끌어 당기기 때문이라는 설명보다는, 아리스토텔레스의 4원소설에 바탕한 설명이 근사적으로 실재를 더 잘 설명할 수 있게 되었고, 또 4원소설에 의한 설명보다는 뉴턴의 중력이론이 보다 더 많은 참신한 예측과 설명할 수 있게 되었으며, 뉴턴의 설명보다는 아인슈타인의 상대론적 설명이 더 정밀한 설명과 예측이 가능해진 것처럼 말이다.

그러나 이러한 과학이론들이 가지는 일련된 흐름의 상당 부분은 수리적 방법에 의해 이상화되어 가고 있음을 알 수있다. 때문에 이들 이론이 설명하고 있는 우리의 세계는 수학적인 전문 기술들과, 실험실의 형태 속에 암호처럼 숨어 있어 그 근본적 당위성이나 진리를 파악하기 조차 어려워졌다. 카트라이트는 여기에 “물리학은 세계를 표현하는 것을 목표로 하지만, 그것을 자신의 이론 속에서가 아니라 자신의 모델들 속에서 표현한다”(Cartwight et al, 1995: 139) 라고 꼬집은 것 역시 같인 이유에서이다.

과학이론은 이상화 되어가고 있고, 이 이상화는 현실 세계보다는 이상적 세계에 더 적합하다. 때문에 과학이론은 현실을 더 잘 설명하고 있기 보다는 현실에서 멀어지는 형이상학적 접근에 더 근접해 가고 있다는 비판을 받을 수 있다. 그러나 이것을 진리라고 가정한 이상적 이론의 결과가 과학적 방법에 의해 현실세계를 비교적 세밀하게 서술하고 있다면, 이것은 반대로 과학이 현실에서 멀어지는 형이상학의 결과가 아닌, 근사적으로 진리에 가깝게 서술해 나가고 있는 것이라고 볼 수 있다. 

따라서 이런 결론을 내릴 수 있다. 과학이론이 이상화를 담고있더라도 이를 근사적으로 진리라고 믿을 수 있고, 그렇기 때문에 그 이론이 과학적 방법을 거쳐 자신의 모델 속에서가 아닌, 실험적으로 그리고 경험적으로 예견되고 검증될 수 있다면, 이 이상적 진리를 이용하여 현상을 설명하려는 시도 역시 과학 이론으로 받아들일 수 있을 것이다. 

[1] 존 헨리, 서양과학사상사, 책과 함께, 2012, 289-315

[2] Ibid, 262-271, 441-450

[3] 제임스 래디먼, 과학철학의 이해, 이학사, 2003, 409-410

[4] 박승배, 과학에서의 이야기식 설명에 대한 고찰, 철학사상, 2007, 407