[김도현 신부의 과학으로 하느님 알기 Ⅱ] 갈릴레오 재판 사건 (11) 실재론 대 반실재론

과학 이론들이 기술하는 세계는 진리로서 존재하는가

20세기에 들어와서 ‘과학이란 무엇인가?’를 철학적으로 묻고 탐구하는, ‘과학철학’이라고 불리는 새로운 철학 분과가 생겨나면서부터 ‘과학이 다루는 지식/개념/이론이 과연 실재하는 것인가?’라는 심각한 질문이 대두되기 시작했습니다.

세상의 많은 과학자들이 옹호하고 있는 과학적 실재론(scientific realism)은 ‘과학은 우리들의 인식과 정신으로부터 독립적으로 실재로 존재하는 대상으로부터 정확한 지식, 개념, 이론을 통해 진리를 얻어내는 작업’이라는 관점입니다. 그래서 실재론자들에 따르면, 과학 이론은 대상으로부터 관측된 사실을 기술하고 이로부터 새로운 현상을 예측하는 등 경험적 유효성을 가질 뿐 아니라, 이론이 말하는 모든 예측이 관측 불가능한 부분, 예를 들면 전자, 쿼크(quark), 초끈(superstring)과 같이 직접적으로는 관찰할 수 없는 실체들에까지도 실제로 옳아야 한다는 것입니다. 실재론자들이 보기에 과학은 이러한 실체들을 정확하게 기술하는 일을 제대로 수행하는 중입니다.

하지만 이러한 과학적 실재론에 반대하는 입장인 반실재론(anti-realism) 혹은 도구주의(instrumentalism)나 실증주의(positivism)에 따르면, ‘과학의 목적은 대상으로부터 정확한 지식, 개념, 이론을 통해 진리를 얻어 내는 것이 아니라 그저 대상으로부터 얻어 낸 실험과 관찰의 결과들을 경험적으로 적절하게 기술함으로써 현재 수준에서 유용한 지식/개념/이론을 얻는 것’이라고 말합니다. 따라서 이 관점에 따르면, 과학적 이론화의 진짜 목표는 진리성에 있는 것이 아니라 ‘경험적 적절성’에 있는 것이며, 과학 이론은 진리와 진실을 의도하지 않는 허구적인 모델일 수도 있는 것입니다. 그래서 반실재론자들은 과학적 기술들이 정확한지에 대해서는 불가지론적 입장을 고수하면서, 과학은 관찰 가능한 현상을 어느 정도 정확하게 예측하는 일을 돕는 ‘유용하고 편리한 도구’ 정도로 여깁니다. 이러한 반실재론에 따르면 과학의 임무는 ‘경험적으로 검증할 수 있는’ 지식만을 추구하는 것으로 그 범위가 좁혀지고, 관측 불가능한 것에 관한 이론은 영원한 가설이거나 편리한 사고의 도구로 격하되어 버리고 맙니다.

이렇듯이 실재론자들과 반실재론자들 사이의 논쟁은 현재 과학철학의 중요한 한 부분을 이루고 있으며, 양측이 의지하는 기본적인 직관은 둘 다 매우 타당해 보입니다.

실재론자들의 직관에 따르면, 우리의 감각에 새겨진 인상은 ‘관찰자들로부터 독립적으로 존재하고 독립적인 속성을 갖는’ 외부 세계에 의해 초래되므로, 문제의 실체들을 우리가 직접 관찰할 수 있든 없든 그 속성을 알아내려고 시도하는 것은 분명 올바른 것입니다.

반면에 반실재론자들의 직관에 따르면, 개인적으로든 집단적으로든 우리가 발견한 모든 것은 ‘우리에게 보이는’ 세계의 모습입니다. 우리가 살아가는 동안 우리 마음 속에는 끊임없이 인상들이 새겨지기 때문에, 우리가 그러한 인상들을 그 인상을 남긴 대상의 본성과 비교하는 것은 사실상 불가능합니다. 우리가 실재를 올바르게 기술했는지를 확인하기 위해서 현상의 베일을 걷어내는 것은 현실적으로 단 한 순간도 가능하지 않다는 것이죠. 우리는 세계가 우리에게 남긴 인상 외에는 세계에 대한 어떤 지식도 가질 수가 없기 때문에, 과학자들이 그러한 인상을 설명하기 위해 상정하는 숨겨진 힘과 구조들에 대해서는 불가지론적인 입장을 고수할 수밖에 없는 것입니다.

과학적 실재론과 반실재론의 차이는 실재의 관찰 불가능한 영역에 대한 주장을 내세우는 과학, 특히 물리학에서 가장 두드러집니다. (화학, 생명과학 등의 다른 자연과학 분야에서는 실재론과 반실재론 사이의 논쟁은 그다지 많아 보이지 않는다.) 반실재론자들은 우리의 관찰 능력이 과학 지식을 한정한다고 주장하는 반면, 실재론자들은 이 견해에 동의하지 않습니다.

그래서 실재론자들은 만일 전자, 쿼크, 초끈과 같은 아원자(subatomic) 입자들이 실제로 존재하지 않고 물리학자들이 부여한 속성들을 실제로 갖고 있지 않다면 양자물리학과 같은 - 관찰 불가능한 실체들을 상정함으로써 물리적 현상들을 설명하고, 자연에 개입해 새로운 효과를 내고, 더 자세하게 정확한 예측을 하는 - 과학 이론들이 경험적으로 성공한 것은 그러한 실재들이 존재하지 않는다면 기적 내지는 굉장한 우연의 일치일 것이라고 주장합니다.

미국의 철학자인 힐러리 퍼트넘(Hilary Putnum·1926~2016)이 언급한 이 논증, 즉 “관찰 불가능한 실체를 상정하는 과학 이론들이 경험적으로 성공한 것은 기적이 아니라 존재하는 실재를 제대로 설명한 것이다”라는 논증은 과학적 실재론을 위한 강력한 변론 중의 하나로서 흔히 ‘기적 불가 논증’(no-miracles argument)이라고 부릅니다. 따라서 그 논증에 따르면 반실재론자들은 기적을 믿는 이들인 것입니다. 기적과 무관한 대안을 구할 수 있다면 기적은 믿지 않는 것이 명백히 더 낫기 때문에, 우리는 과학적 실재론자가 되어야 하는 것이라고 그들은 주장합니다.

하지만 반실재론자들은 이에 대해 다음과 같이 반론합니다. 단적으로, 래리 라우든(Larry Laudan·1941~)이 강조한 바와 같이, 과학사는 한때 가장 성공적인 이론이었지만 지금은 존재하지 않는 것으로 여겨지는 실체들을 상정했던 ‘폐기된 이론들의 무덤’이라고 말할 수 있습니다. 대표적으로 18세기 연소 이론이 그런 경우로서, 이 이론은 어떤 것이 연소할 때 ‘플로지스톤’(phlogiston)이라는 성분을 방출한다고 주장했지만, 산소의 발견 이후로 그 이론은 폐기되었습니다. 또 하나의 적절한 예는 물리학이 19세기까지 주장했던 ‘에테르’(aether)입니다. 우리의 목소리가 공기를 통해 퍼져 나가듯이 전자기파가 퍼져 나가기 위해 반드시 필요한 것으로 여겨지는 물리적 매개물이었지만, 아인슈타인의 특수상대성 이론이 성공을 거두면서 역사 속으로 사라진 개념이 되고 말았습니다. 수 세기 동안 큰 성공을 거둔 프톨레마이오스의 천문학이 그러했듯이, 우리가 지금은 사실이 아니라고 생각하는 이론들이 과거에는 성공적인 예측들을 해냈기 때문에 오늘날의 성공적인 이론들도 반드시 사실일 것이라고 예단할 이유가 없는 것입니다. 그래서 라우든을 비롯한 반실재론자들은 - 과학사에 조금만 주의를 기울이면 쉽게 알 수 있듯이 - ‘경험적인 성공을 통해 이론이 참되다고 추론하는 것’은 불안정하다고 주장합니다.

더 나아가서, 참인 이론들과 거짓인 이론들은 모두 그들 나름의 방식으로 정확한 경험적 예측들을 생산해 낼 수 있다고 봅니다. 예를 들어, 반실재론자들이 보기에는 물리학자들이 주장하는 전자, 쿼크, 초끈과 같은 직접적으로 관찰 불가능한 아원자 입자들에 관한 이론들은 대단히 수학적인 언어로 표현되기 때문에, 이들의 물리적 특성을 기술하는 이론들은 수학적인 표현 방식에 따라 얼마든지 다양할 수 있으며, 실제로 다양한 이론들이 존재하고 있는 것도 사실입니다. 따라서 이들 이론 중에는 참인 이론들과 거짓인 이론들이 섞여 있으며 그들 각자가 그들의 방식으로 정확한 경험적 예측들을 생산해 내는 것처럼 보이는 것입니다.

[가톨릭신문, 2023년 6월 18일, 김도현 바오로 신부(대구가톨릭대학교 교수)]