거인의 꿈, 힐베르트의 프로그램

튜링의 손가락이 낡은 책장을 천천히 훑었다. 케임브리지 대학 도서관의 서고에는 시간의 먼지가 켜켜이 쌓여 있었다. 그의 목표는 단 하나, 다비트 힐베르트의 1900년 파리 세계 수학자 대회 연설문 원본을 찾는 것이었다.

“찾았다.”

그는 마침내 낡은 학회지 한 권을 꺼내 들었다. 종이는 바스러질 듯 누렇게 변색되어 있었다. 튜링은 조심스럽게 책장을 넘겼다. 그리고 그의 눈은 힐베르트가 던진 23개의 ‘미래의 문제들’을 지나, 그 연설의 근간을 이루는 철학에 가닿았다.

「수학에는 무시할 수 있는 것이란 없다. 우리에겐 ‘이그노라비무스(Ignorabimus, 우리는 알 수 없을 것이다)’란 없다. 우리는 알아야만 한다. 우리는 알게 될 것이다! (Wir müssen wissen. Wir werden wissen!)」

튜링은 저도 모르게 침을 삼켰다.
그것은 단순한 선언이 아니었다. 인간 이성의 힘에 대한 무한한 신뢰, 우주의 모든 진리를 결국에는 파악할 수 있으리라는 절대적인 믿음이었다.

그 믿음을 현실로 만들기 위해, 힐베르트는 ‘힐베르트 프로그램’이라 불리는 거대한 계획을 수립했다. 튜링은 다른 자료들을 뒤져가며 그 원대한 계획의 청사진을 머릿속에 그리기 시작했다.

첫째, 형식화(Formalization).
수학 전체를 기호와 공리(Axiom, 증명 없이 참으로 받아들이는 명제)로 이루어진 완벽한 언어로 바꾸는 작업이었다. ‘1+1=2’와 같은 명제를 ‘S(S(0))’처럼, 어떤 해석의 여지도 없는 순수한 기호의 나열로 표현하는 것이다. 인간의 직관이나 언어의 모호함을 완전히 제거하려는 시도였다.

둘째, 완전성(Completeness).
이 형식화된 체계 안에서, 모든 참인 명제는 반드시 증명 가능해야 했다. 증명할 수 없는 진실, 즉 시스템의 울타리 바깥에 존재하는 미지의 영역은 없어야 했다.

셋째, 무모순성(Consistency).
시스템 내에서는 절대로 모순이 발생해서는 안 됐다. ‘A는 참이다’와 ‘A는 참이 아니다’가 동시에 증명될 수 있다면, 그 시스템은 모래 위에 지은 성처럼 무너져 내릴 테니 말이다. 힐베르트는 이 무모순성 자체를 ‘유한한’ 방법으로 증명하고 싶어 했다.

튜링은 등골에 전율을 느꼈다.
이것은 수학의 한 분야를 연구하는 차원의 문제가 아니었다. 수학이라는 우주 전체를 하나의 거대한 기계로 만들려는 시도였다.

그리고 그 기계의 정점에, 그 기계를 완벽하게 통제할 수 있는 최종 스위치가 바로 ‘결정 문제(Entscheidungsproblem)’였다.

만약 결정 문제를 풀 수 있는 ‘확실한 방법’이 존재한다면, 인류는 신의 영역을 엿보는 것과 같았다. 어떤 수학적 질문이든 그 기계에 넣고 스위치를 누르기만 하면 ‘참’ 또는 ‘거짓’이라는 답이 명확하게 튀어나올 것이다. 더 이상 난제는 존재하지 않고, 수학자들은 새로운 정리를 발견하는 탐험가가 아니라 이미 완성된 지도에서 길을 찾는 측량사가 될 터였다.

힐베르트가 꿈꾼 것은 수학의 유한한 천국이었다. 모든 것이 예측 가능하고, 모든 것이 증명 가능하며, 어떠한 모순도 없는 완벽한 세계.

튜링은 학회지를 덮고 눈을 감았다.
그 거대한 야망의 스케일이 피부로 느껴졌다. 그것은 20세기 초, 수학의 기초가 여러 역설들로 인해 흔들리던 시대에, 어떻게든 이성의 왕국을 지켜내려 했던 한 위대한 수학자의 필사적인 외침이었다.

‘기계….’

튜링의 머릿속에 다시 그 단어가 떠올랐다.
힐베르트는 논리의 기계를 만들려 했다. 그렇다면 나는, 생각의 기계를 정의할 수 있을까.

그는 아직 몰랐다. 자신이 지금 감탄하며 바라보고 있는 힐베르트의 장대한 건축 계획이, 이미 저 멀리 오스트리아 빈의 한 젊은 논리학자에 의해 치명적인 균열이 시작되었다는 사실을.

그 위대한 꿈의 붕괴가, 역설적으로 자신의 길을 열어줄 가장 중요한 열쇠가 되리라는 것을 말이다.