[과학 시대의 그리스도인] 과학주의의 한계 (5)

과학이 사용하는 귀납적 추론의 한계

과학과 귀납법

세상에 존재하는 수많은 종류의 학문 가운데 이성적인 추론과 보편적이고 논리적인 근거로써 세상과 자연의 이치를 따지고 탐구하는 학문을 우리는 특별히 과학(science)이라고 부른다. 그런데 수학을 제외한 다른 모든 과학은 기본적으로 귀납법(induction)에 기반을 둔 분과 학문이다.

지난 2월에 이미 설명한 바와 같이 (수학을 제외한 나머지) 과학은 경험적 사실을 관찰 · 측정하거나 특정 조건 아래 실험을 한 뒤, 방대한 데이터를 축적하는 과정을 가장 중요한 특징으로 여긴다. 만일 이 방대한 데이터로부터 (근사적으로) 동일한 패턴이나 질서가 보이게 되면 그때부터 과학이 추구하는 재현성, 보편성을 확증할 수 있게 된다.

하지만 처음에는 재현성, 보편성을 보증하는 듯 여겨지는 데이터들도 과학자의 조작이나 실수 등이 개입될 여지가 있다. 그 때문에 엄밀한 분석 과정을 거쳐 패턴이나 질서의 재현성, 보편성이 의심의 여지가 없을 때에야 비로소 마지막 단계인 경험 법칙, 원리를 얻는 방향으로 나아가게 된다.

이렇게 아래(바닥)의 경험적 사실들로부터 맨 위(꼭대기)의 법칙, 원리로 나아가는 접근법을 흔히 ‘상향식 접근법’이라고 부른다.

과학은 경험으로 얻은 ‘수많은’ 데이터에 ‘보편적’으로 존재하는 법칙, 원리의 발견을 그 목적으로 하기에, 일단 실법과 관측으로 얻은 데이터의 양이 많아야 한다. 바로 이러한 수많은 데이터로부터 장소, 시간에 구애되지 않는 보편적 법칙을 찾는 것이 과학의 궁극적인 목적이라 할 수 있다.

‘반증 가능성’이라는 대안

과학의 철학적 기반인 바로 이 귀납법의 특성상 생기는 약점도 있다. 만일 아무도 예상치 못한 새로운 자연 현상이나 반례(counter example)가 하나라도 발견되면 이전의 개념 ‧ 이론 ‧ 모델은 즉각 폐기되고 마는 문제가 발생하는 것이다.

어느 날 아침 태양이 서쪽에서 떠오른다면? 그런 일이 단 한 번만 일어나도 우리가 그동안 당연하게 받아들여 온 ‘태양은 아침에 동쪽에서 떠오른다.’는 경험 법칙은 폐기되어야 하는 상황에 몰리고 만다. 따라서 귀납적 추론은 연역적, 삼단논법적 접근과 비교해 볼 때 그만큼 학문의 엄밀성, 견고성에 있어서는 취약하다는 문제가 있다.

영국의 경험철학자 데이비드 흄은 일찍이 18세기에 귀납법의 이러한 약점을 지적했다. 그 이래로 현재까지 과학철학자들은 귀납법의 취약성을 극복해 보려고 고심하는 상황이다.

20세기 가장 저명한 과학철학자 칼 포퍼는 바로 이러한 귀납법의 약점을 극복하고자, ‘반증 가능성’(falsifiability)을 과학의 기준으로 내세웠다. 포퍼는 관찰 진술로부터 명제나 이론이 ‘참’(true) 또는 ‘개연적으로 참’(probably true)인지는 귀납적으로 추론할 수 있다는 가정을 모조리 부정하였다. 이에 따라, 타당한 추론은 연역적 추론뿐이니 귀납적 추론을 사용하지 말 것을 주장하였다.

그가 보기에 과학이란, 일단 어떤 문제가 제기되면 그 문제를 해결하고자 대담한 추측이나 가설을 고안한다. 그런 다음 연역적 추론으로서 새로운 현상을 예측하고, 그 예측이 관찰과 일치하면 이 연역적 추론을 승인하는 학문이다.

예측과 관찰이 일치하지 않으면 이 관찰 결과를 이전에 제시한 추측이나 가설에 대한 반증으로 삼는 과정을 되풀이한다. 이러한 추측과 반증의 과정에서 귀납적 추론은 전혀 사용될 필요가 없다는 것이 포퍼의 주장이다.

하지만 포퍼의 이러한 주장이 무색하게도 수학을 제외한 다른 모든 자연과학은 여전히 귀납법에 크게 의존하는 것이 현실이다.

실험과 관측으로 얻은 수많은 데이터로부터 법칙, 원리를 이끌어 내는 전통적인 귀납적 추론은 여전히 강력한 과학적 연구 방법으로 받아들여지며 사회과학, 심리학 등의 다른 학문 분야에까지 광범위하게 활용된다.

분과에 따라 다른 귀납법의 효용

이러한 귀납법은 실험 · 관측 데이터를 상대적으로 짧은 시간 안에 많이 얻을 수 있는 물리학이나 화학 등의 학문 분야에서는 여전히 강력한 영향력을 행사한다. 왜냐하면 결국 귀납법이 추구하는 것은 수많은 데이터로부터 얻어지는 공통적인 패턴이나 특정한 질서이기 때문이다.

데이터의 양이 많을수록 공통적인 패턴 · 질서로 수렴되는 경향성이 커진다. 이는 통계학에서 말하는 ‘평균값으로의 수렴’에 해당한다. 데이터 양이 많으면 패턴과 질서에서 벗어나는 정도도 줄어든다. 이는 통계학에서 말하는 표준편차가 0에 가까워짐을 의미한다.

하지만 물리학이나 화학과 달리, 생명과학, 고생물학, 천문학 등의 학문은 특정한 현상을 보여 주는 데이터 자체를 짧은 시일 안에 많이 얻기가 쉽지 않다. 그러므로 귀납적인 결론을 얻기도 힘든 것이 사실이다.

예컨대, 2005년에 한국 사회와 생명과학계 전체를 뒤흔든 황우석 사태를 보자. 이는 재현이 사실상 거의 불가능에 가까운 배아 줄기세포 실험 결과를 제시한 경우이다.

일반 국민은 단순하게 데이터를 믿었으나, 해당 분야의 전문가들은 그 데이터의 귀납적 결론에 대해 의구심을 가졌다. 이 상태에서 논문 조작 사실이 발각되었다.

고생물학의 경우는 땅을 파서 특정한 모양의 유골을 발굴해야만 과학적 주장이 성립될 수 있는데, 같거나 적어도 유사한 유골을 여러 개 발견하기가 현실적으로 쉽지 않다. 이처럼 실험 방식이 대단히 복잡하거나 전 세계에서 극소수 연구실만이 할 수 있는 실험 조건이 요구되는 경우에는 데이터의 부족으로 말미암아 귀납적 추론에 힘이 실리기 힘들 수밖에 없는 상황이 된다.

따라서 귀납적 추론에 대해 비판적인 사람들에게 과학은, 태생적으로 그 논리적 토대가 취약한 상태에서 그 위에 거대한 모래성을 쌓아 나가는 작업으로 비춰질 수 있다.

과학의 현 상황이 이러한데, ‘이처럼 취약한 상향식 귀납적 과학이 하향식 접근을 취하는 신앙과 종교 등의 현상들을 설명하려는 시도가 가능하고 정당한가?’라는 질문이 제기된다면 과연 긍정적인 대답을 받을 수 있을까?

과학주의의 한계가 이제 분명하게 보인다. 과학과 종교는 접근법이 완전히 다르다는 사실을 과학주의자들이 받아들여야만 하는 상황에 다다른 것이다.

이에 관한 좀 더 깊은 내용을 알고 싶은 독자분들은 필자의 글 ‘현대의 과학 시대에서도 신앙은 과연 의미가 있는가?: 과학주의에 관한 비판적 고찰을 통한 신앙의 의미 탐색’(「신학전망」, 204호, 2019년, 130-170쪽)을 참고해 주시기 바란다.

* 김도현 바오로 - 예수회 한국관구 소속 신부로 현재 서강대학교에서 통계물리학과 ‘과학과 종교’를 연구, 강의하고 있다.

[경향잡지, 2020년 9월호, 김도현 바오로]