검증에서 반증으로, 과학 철학의 패러다임이 바뀌다

20세기 초 오스트리아 비엔나에서는 철학사에 길이 남을 야심 찬 프로젝트가 진행되고 있었습니다. 물리학자, 수학자, 철학자들이 모여 만든 비엔나 학단은 철학에서 형이상학을 완전히 추방하겠다는 목표를 세웠습니다. 이들은 검증 원리를 무기로 삼았습니다. 경험적으로 검증 가능한 명제만이 의미 있는 명제이며, 신의 존재나 도덕의 절대성 같은 형이상학적 명제들은 진위를 판단할 수 없는 무의미한 언명이라는 주장이었습니다.

그러나 비엔나 학단의 기획은 스스로를 논리적 함정에 빠뜨렸습니다. 검증 원리 자체가 경험적으로 검증할 수 없는 형이상학적 명제였기 때문입니다. 칼 포퍼는 이 모순을 정확히 짚어내며 전혀 다른 방향을 제시했습니다. 과학의 특징은 검증 가능성이 아니라 반증 가능성이라는 것입니다. 이 전환은 과학의 경계를 정교하게 그으면서도, 역설적으로 과학 너머의 세계를 무조건 부정하지 않는 공간을 열었습니다.

칼 포퍼, 검은 백조 한 마리로 진리의 오만을 무너뜨리다

1902년 오스트리아 비엔나에서 태어난 칼 포퍼는 20세기 과학 철학의 거장이자 열린 사회의 위대한 수호자로 평가받습니다. 젊은 시절 마르크스의 역사주의, 프로이트의 정신분석학, 아인슈타인의 상대성 이론을 동시에 목격한 그는 진짜 과학과 가짜 과학을 구별하는 냉혹한 기준을 탐구했습니다.

마르크스주의자들이나 프로이트의 제자들은 어떤 사건이 터질 때마다 자신의 이론이 옳다는 사후 증거로 삼는 끼워 맞추기식 독단에 머물렀습니다. 반면 1919년 아인슈타인은 자신의 상대성 이론을 제시하며 "만약 일식 관측 실측값이 내 계산과 단 1%라도 다르게 나타난다면 이론을 즉각 폐기하겠다"고 선포했습니다. 포퍼는 이 태도에서 깊은 지적 전율을 느꼈습니다. 진짜 과학은 기득권을 지키기 위한 오만한 확신이 아니라, 스스로 틀릴 수 있음을 인정하고 검증대 위에 자신을 던지는 지적 겸손과 용기에서 출발한다는 깨달음이었습니다.

포퍼의 과학 철학을 상징하는 비유가 바로 검은 백조 가설입니다. 유럽인들은 수천 년 동안 하얀 백조만을 목격하고 "모든 백조는 하얗다"는 명제를 의심할 수 없는 영원불변의 진리로 신봉해 왔습니다. 그러나 1697년 네덜란드 탐험가가 오스트레일리아 서해안에서 단 한 마리의 검은 백조를 발견했을 때, 인류가 귀납적으로 쌓아 올린 수만 개의 데이터와 확실성은 단숨에 무너져 내렸습니다. 포퍼는 이 사건을 통해 과학적 지식이란 확실한 진리를 벽돌처럼 쌓아 올리는 과정이 아니라, 대담한 추측을 던진 후 그 속에 내재된 오류와 거짓을 가혹한 반박을 통해 하나씩 지워나가는 과정임을 역설했습니다.

열린 사회, 피 흘리지 않고 권력을 교체하는 시스템

제2차 세계대전 중 나치의 박해를 피해 뉴질랜드로 망명한 포퍼는 명저 『열린 사회와 그 적들』을 저술했습니다. 그는 나치즘과 스탈린주의로 대변되는 20세기 전체주의의 파괴적 뿌리가 플라톤, 헤겔, 마르크스가 남긴 형이상학적 독단에 기인한다고 매섭게 비판했습니다. 이 지적 거인들은 역사가 인간의 의지와 무관하게 필연적 법칙을 향해 전진한다는 역사법칙주의를 내세웠고, 지상 낙원이라는 거대 담론을 달성한다는 명분 아래 개별 개인들의 구체적인 자유와 생명을 제물로 희생시키는 폭거를 도덕적으로 정당화했습니다.

포퍼는 이러한 역사주의적 도그마에 맞서 인간 주체의 자유로운 비판이 살아 숨 쉬는 열린 사회의 비전을 제창했습니다. 열린 사회는 단 한 번에 인간의 모든 모순을 해결해 주겠다는 유토피아가 아닙니다. 그것은 권력자를 향한 시민들의 이성적 비판과 오류 제기가 제도적으로 허용되는 사회입니다. 통치자의 이념이 거짓으로 판명되었을 때, 피를 흘리는 혁명 없이 투표라는 메커니즘을 통해 권력을 평화적으로 교체할 수 있는 공간이 바로 열린 사회의 본질입니다.

포퍼는 사회 전반을 한 번에 청사진대로 뜯어고치려는 혁명적 유토피아적 사회공학의 위험성을 경계했습니다. 그 대신 현실 속 구체적인 고통과 불평등의 폐단을 하나씩 해결해 나가는 점진적 사회공학을 대안으로 제시하며 "인간이 지상 위에 억지로 가짜 천국을 건설하려고 할 때, 역사의 종착지는 언제나 현실의 지옥으로 변모하고 만다"는 충고를 남겼습니다.

토마스 쿤, 과학은 평화롭게 쌓이지 않는다

1922년 미국에서 태어난 토마스 쿨은 본래 물리학자로 출발했다가 과학사 연구로 전향한 학자입니다. 포퍼가 과학의 영토를 논리적 반증이 교차하는 합리적 법정으로 파악했다면, 쿤은 1962년 출간한 명저 『과학혁명의 구조』를 통해 과학의 진보가 누적적이고 평탄하게 발전한다는 전통적인 통념을 완전히 뒤집어놓았습니다.

쿤은 과학의 실제 발전사가 과학자 공동체가 공유하는 주관적 신념 체계와 사회적 권력 구조에 의존하는 역사적 과정임을 폭로했습니다. 과학은 기존의 영토를 평화롭게 누적하며 성장하는 것이 아니라, 한 시대를 지배하는 인식의 틀이 통째로 붕괴하고 새로운 틀이 들어서는 격렬한 과학 혁명의 단절을 통해 전개된다는 주장이었습니다.

쿤은 한 시대를 지배하는 보편적인 인식의 틀이자 세계를 바라보는 지적 안경을 패러다임이라고 명명했습니다. 아리스토텔레스의 물리학, 프톨레마이오스의 천동설, 뉴턴의 역학 등이 대표적인 예입니다. 특정한 패러다임이 역사적 정당성을 획득하여 안착하면, 주류 과학자들은 그 대전제를 의심하지 않은 채 잔여 문제를 풀어나가는 정상 과학의 시기를 영위합니다. 이 시기의 연구는 새로운 우주의 진리를 발견하는 모험이 아니라, 이미 정해진 지도의 규칙에 맞추어 누락된 조각을 맞추는 정교한 퍼즐 풀기에 불과하다는 것이 쿤의 진단이었습니다.

산소 발견의 드라마, 같은 것을 보고도 다른 세계를 살다

정상 과학의 퍼즐 풀기 여정 속에서, 기존 패러다임의 공식으로는 도저히 설명할 수 없는 기괴한 실체 데이터인 이상 현상들이 수면 위로 포착되기 시작합니다. 초기 단계에서 기득권 과학자 공동체는 기존 안경을 사수하기 위해 이상 현상들을 단순한 실험 오류나 예외로 치부하며 외면하려 합니다. 그러나 기존 체제의 둑을 무너뜨릴 만큼 이상 현상들이 임계점을 넘어 누적되면 기존 패러다임은 총체적인 붕괴 위기에 봉착합니다.

쿤이 패러다임 전환의 가장 극적인 사례로 제시한 것이 18세기 화학계를 뒤흔든 산소의 발견을 둘러싼 사투입니다. 당시 화학계를 지배하던 패러다임은 물질이 연소할 때 내부의 플로지스톤 성분이 대기 중으로 빠져나간다는 학설이었습니다. 영국의 조지프 프리스틀리는 실험실에서 순수한 산소 기체를 최초로 추출해 내는 데 성공했습니다. 그러나 그는 평생 착용해 온 플로지스톤 패러다임의 감옥에 갇혀 있었기에, 자신이 발견한 신물질을 단지 플로지스톤이 없는 기체라고 구시대의 언어로 기술하며 본질을 놓쳤습니다.

반면 프랑스의 앙투안 라부아지에는 기득권의 인식 틀을 분쇄하고 연소란 물질이 대기 중의 특정 원소와 결합하는 현상이라는 완전히 새로운 틀을 정초하면서, 진짜 실체인 산소 패러다임을 확립했습니다. 같은 실험 결과를 보면서 한 사람은 구시대에 갇히고, 다른 사람은 새 시대를 열었던 것입니다. 쿤은 이처럼 구시대의 틀과 신시대의 틀 사이에는 서로를 비교하거나 조화롭게 절충할 수 있는 공통의 논리적 잣대가 부재한다는 공약 불가능성의 대법칙을 선포했습니다.

과학의 경계와 그 너머, 우리는 어디로 가는가

포퍼의 반증 가능성 원칙은 과학적 방법론으로서 정확하고 유효합니다. 점술이나 유사과학이 반증 불가능한 체계를 구축하여 비판을 회피하는 것을 차단하는 데 이 원칙은 강력한 도구입니다. 그러나 이 원칙이 과학의 영역을 넘어 모든 지식의 정당성 기준으로 확장되면 위험해집니다. 하나님의 존재, 도덕의 절대성, 인간 영혼의 가치, 사랑의 의미가 실험실에서 반증 불가능하다는 이유로 무의미한 것의 영역으로 추방되기 때문입니다.

쿤의 패러다임 혁명론은 더 나아가 과학적 진리 자체의 절대성을 내부에서 해체합니다. 구 패러다임과 신 패러다임 사이에는 공통의 비교 기준이 없다는 공약 불가능성 선언은, 과학이 절대 진리를 향해 진보하는 것이 아니라 패러다임을 교체하는 것일 뿐이라는 결론으로 이어집니다. 오늘날 딥러닝 AI 시스템이 왜 그런 결론에 도달했는지 설명하지 못하는 블랙박스 문제는 포퍼의 기준으로 보면 반증 불가능한 체계입니다. 그래서 설명 가능한 AI 운동이 포퍼의 반증 가능성 원칙을 AI에 요구하고 있습니다.

반증 가능성은 과학의 울타리 안에서는 유효한 원칙입니다. 그러나 그 울타리가 가치와 의미와 목적의 세계 전체를 부정하는 무기가 되어서는 안 됩니다. 뉴턴의 법칙으로 사과의 낙하를 설명할 수 있지만, 사과를 사랑하는 사람에게 건네는 행위의 의미는 뉴턴의 법칙으로 설명할 수 없습니다. 과학의 방법이 과학 너머의 진리까지 부정할 자격은 없습니다. 2020년 코로나 팬데믹 초기, 마스크 착용에 대한 보건 당국의 권고는 몇 달 사이에 정반대로 바뀌었습니다. 같은 바이러스를 보면서 전문가들의 의견이 충돌한 것입니다. 쿤이라면 이렇게 말했을 것입니다. 그들은 서로 다른 패러다임의 안경을 끼고 있었습니다.

과학은 진리를 쌓아 올리는가, 아니면 뒤집는가. 포퍼와 쿤이 밝힌 과학 혁명의 두 얼굴은 우리에게 중요한 질문을 던집니다. 과학의 엄밀함을 존중하되, 과학이 모든 것을 설명할 수 있다는 오만에 빠지지 않는 지혜가 필요합니다.