괴델이 남긴 길

튜링이 마주한 괴델의 논문, 「형식적으로 결정 불가능한 명제에 관하여(Über formal unentscheidbare Sätze der Principia Mathematica und verwandter Systeme I)」는 그 자체로 하나의 암호문이었다. 수식과 기호, 빽빽한 독일어로 채워진 페이지들은 평범한 지성으로는 한 줄도 나아가기 힘든 철옹성이었다.

그러나 튜링은 포기하지 않았다. 그는 며칠 밤낮으로 도서관 구석에 처박혀, 오직 그 논문과 씨름했다. 한 문장 한 문장을 분해하고, 논리의 뼈대를 발라내고, 기호의 의미를 곱씹었다.

처음에는 그저 감탄만 나왔다. ‘참이지만 증명할 수 없는 명제’를 만들어낸 그 교묘한 자기언급(self-reference) 구조는 천재적이었다. 하지만 튜링은 그 현란한 기교 너머, 괴델이 사용한 ‘도구’에 주목하기 시작했다.

그리고 마침내, 그는 발견했다.
괴델의 진짜 무기는 바로 ‘괴델 수(Gödel number)’라는 개념이었다.

그것은 논리학을 산술로 바꿔버린, 일종의 연금술이었다.
괴델은 수학의 모든 기호(+, =, 괄호 등)와 변수, 그리고 명제 전체에 각각 고유한 자연수를 부여했다. 예를 들어, ‘0’이라는 기호에는 숫자 1을, ‘=’ 기호에는 숫자 5를 할당하는 식이었다.

그렇게 되면, ‘0=0’이라는 간단한 명제는 ‘1, 5, 1’이라는 숫자들의 배열로 변환될 수 있었다. 더 나아가, 이 숫자 배열 자체를 하나의 거대한 소인수분해 공식 등을 이용해 단 하나의 고유한 ‘괴델 수’로 압축할 수 있었다.

결과적으로, 수학에 대한 모든 명제(‘A는 증명 가능하다’, ‘B는 모순이다’ 등)가, 그저 하나의 거대한 자연수로 바뀌어버렸다.

튜링의 뇌가 활성화되기 시작했다.
이것은 엄청난 발상의 전환이었다.
지금까지 수학은 ‘대상’을 다루는 학문이었다. 숫자를 다루고, 도형을 다루고, 함수를 다뤘다. 하지만 괴델은 수학이 ‘수학 자체’를 다루게 만든 것이다. 명제에 대한 명제, 즉 메타 수학(meta-mathematics)을 산술의 영역으로 끌고 들어왔다.

‘숫자를 이용해, 명제를 코드화한다.’

그 순간, 튜링의 머릿속에 흩어져 있던 퍼즐 조각들이 하나의 그림으로 맞춰지기 시작했다.

자신이 풀어야 할 문제는 ‘결정 문제’였다.
그 핵심은 ‘계산’의 한계를 증명하는 것이었다.

괴델이 명제를 숫자로 코드화했다면, 나는 ‘계산 절차’ 혹은 ‘기계의 작동 규칙’을 코드화할 수 있지 않을까?

튜링의 눈앞에 흐릿했던 상상 속의 기계가 조금 더 구체적인 모습을 띠기 시작했다.
만약 어떤 기계의 설계도(작동 규칙표) 자체를, 그 기계가 읽을 수 있는 일련의 기호나 숫자로 표현할 수 있다면?

그리고 그 기계에게, 바로 자기 자신의 설계도를 입력값으로 준다면?

이것이다.
괴델이 ‘이 명제는 증명될 수 없다’는 자기언급의 역설을 만들어냈듯, 자신은 ‘이 프로그램은 영원히 멈추지 않을 것이다’와 같은 자기모순적인 기계를 상상 속에서 만들 수 있을 터였다.

그것을 증명하기 위해서는, 우선 ‘계산’이라는 행위를 가장 단순하고 명확한 형태로 정의한 ‘보편적인 기계’ 모델이 필요했다. 괴델이 수학의 언어를 형식화했듯, 자신은 계산의 과정을 형식화해야 했다.

튜링은 괴델의 논문을 조용히 덮었다. 더 이상 암호문이 아니었다. 그것은 이제 그의 여정을 위한 가장 정확한 지도였다.

괴델은 힐베르트의 꿈에 균열을 냈지만, 동시에 그 균열 너머로 가는 길을 친히 닦아 놓았다. 그는 ‘증명’의 한계를 통해 튜링에게 ‘계산’의 한계를 증명할 방법을 가르쳐준 셈이었다.

결정 문제라는 거대한 산을 넘기 위해, 튜링은 이제 자신만의 베이스캠프를 차려야 했다. 모든 계산을 표현할 수 있는 가장 근본적이고 단순한 기계. 그 위대한 상상의 첫 삽을 뜰 시간이었다.