프린스턴에서 온 편지

132025년 08월 08일4

1936년 봄, 튜링은 자신의 논문, 「On Computable Numbers, with an Application to the Entscheidungsproblem(계산 가능한 수에 관하여, 그리고 결정 문제에의 한 응용)」의 마지막 문장을 쓰고 있었다. 그의 보편 기계(Universal Machine) 개념은 완벽하게 다듬어졌고, 그것을 이용해 결정 문제가 해결 불가능함을 보이는 논증 또한 완성되었다.

그의 심장은 기대감으로 가득 차 있었다. 이것은 단순히 힐베르트의 오래된 질문에 답하는 것을 넘어, '계산'이라는 행위 자체에 대한 새로운 정의를 제시하는 혁명적인 작업이었다. 지도 교수인 맥스 뉴먼 역시 그의 논문을 읽고는 흥분을 감추지 못했다.

"앨런, 이것은... 이것은 엄청난 논문이야. 당장 런던 수학 학회지에 제출해야 하네."

모든 것이 순조롭게 흘러가는 듯했다.

그러던 어느 날, 뉴먼 교수가 굳은 얼굴로 튜링을 찾아왔다. 그의 손에는 갓 도착한 미국발 학회지 한 부가 들려 있었다.

"앨런, 아무래도... 문제가 생긴 것 같네."

뉴먼이 펼쳐 보인 학회지에는 낯선 이름의 논문이 실려 있었다.

「An Unsolvable Problem of Elementary Number Theory」
저자: 알론조 처치(Alonzo Church), 프린스턴 고등 연구소.

튜링의 심장이 쿵 내려앉았다. 그는 재빨리 논문의 초록을 훑어보았다. 내용은 충격적이었다. 알론조 처치라는 미국의 논리학자가, 자신과 완전히 다른 방법론을 사용하여, 결정 문제가 해결 불가능함을 이미 증명했다는 것이었다.

그의 머릿속이 하얘졌다.
수년간의 고독한 사투. 크리스토퍼의 죽음에서 시작된 질문, 힐베르트의 문제, 괴델의 길, 그리고 마침내 완성한 보편 기계의 개념까지. 그 모든 것이 물거품이 될 위기였다. 수학의 세계에서 두 번째는 기억되지 않는다.

뉴먼 교수가 그의 어깨를 두드리며 말했다.
"아직 낙담하긴 이르네. 처치의 논문은 이제 막 발표되었고, 자네의 논문은 아직 제출되지 않았어. 하지만 자네의 접근 방식은 처치의 것과 근본적으로 다르지 않은가. 그 자체로 엄청난 가치가 있네."

튜링은 기숙사로 돌아와 처치의 논문을 미친 듯이 파고들었다. 처치의 무기는 튜링의 '기계'와는 전혀 다른 형태였다. 그것은 '람다 계산(Lambda Calculus)'이라는, 오직 함수(function)의 정의와 적용만으로 이루어진 지극히 추상적인 논리 체계였다.

람다 계산에는 '테이프'도 '헤드'도 없었다. 오직 기호와 변환 규칙만이 존재했다.
예를 들어, 'x+1'이라는 함수는 'λx.x+1'과 같이 표현되었다.
모든 계산을 이처럼 함수를 정의하고, 그 함수에 값을 대입하는 과정의 반복으로 설명하려는 시도였다.

처치는 이 람다 계산이라는 도구를 사용해, "어떤 람다 표현식이 '정규형'을 갖는지 판별하는 일반적인 절차가 존재하는가?"라는 질문을 던졌다. 이는 튜링의 질문, "어떤 튜링 기계가 '정지'하는지 판별하는 일반적인 절차가 존재하는가?"와 본질적으로 맞닿아 있었다. 그리고 처치는 그 답이 '아니오'임을 증명함으로써, 결정 문제 역시 풀 수 없다는 결론에 도달한 것이다.

겉보기에는 너무나도 달랐다.
튜링의 방법은 구체적이고 기계적이었다. 종이테이프와 헤드를 상상하며, 사람이 계산하는 과정을 직접적으로 모델링했다. 누구나 그 작동 방식을 머릿속에 그릴 수 있었다.
반면 처치의 방법은 극도로 추상적이고 수학적이었다. 순수한 기호 논리의 세계에서 벌어지는 연산이었다.

늦은 밤, 튜링은 처치의 논문을 덮었다. 절망감은 어느새 새로운 깨달음으로 바뀌어 있었다.

'출발점은 달랐지만, 결국 우리는 같은 정상에서 만났다.'

이것은 자신의 연구가 헛되었다는 증거가 아니었다. 오히려 그 반대였다. 전혀 다른 두 가지 방식으로 같은 결론에 도달했다는 사실은, '계산 가능한 것'의 범위가 특정 모델에 국한되지 않는, 보편적이고 절대적인 개념이라는 강력한 증거였다.

그는 자신의 논문에 서둘러 부록을 추가하기 시작했다. 자신의 'a-machine'으로 계산 가능한 모든 함수는, 처치의 '람다 계산'으로도 정의 가능하며, 그 역도 성립함을 증명하는 내용이었다.

경주에서는 간발의 차로 뒤처졌을지 모른다. 하지만 튜링은 이제 더 큰 그림을 보고 있었다.
자신과 알론조 처치가 함께, 인간 이성의 한계선을 명확하게 그어 보인 것이다. 그 선 안쪽은 '계산 가능한' 영역이며, 그 바깥쪽은 영원히 '계산 불가능한' 미지의 영역으로 남을 터였다.

미국 프린스턴에서 온 편지는 더 이상 패배의 소식이 아니었다. 그것은 보이지 않는 동반자의 존재를 알리는 신호탄이자, 자신의 작업이 올바른 방향으로 나아가고 있음을 확인시켜 주는 확신이었다.