대각선 논법

칸토르의 연구실에는 팽팽한 긴장감이 감돌았다. 그의 손에는 방금 벼려낸 예리한 논리, ‘대각선 논법’이 들려 있었다. 이제 그는 이 무기를 사용하여 ‘0과 1 사이의 모든 실수를 셀 수 있다’는 가정을 산산조각 낼 참이었다.

그는 다시 한번 칠판에 적힌 가상의 실수 목록을 바라보았다.

1번째 실수 (S₁): 0. a₁₁ a₁₂ a₁₃ a₁₄ ...
2번째 실수 (S₂): 0. a₂₁ a₂₂ a₂₃ a₂₄ ...
3번째 실수 (S₃): 0. a₃₁ a₃₂ a₃₃ a₃₄ ...
...
n번째 실수 (Sₙ): 0. aₙ₁ aₙ₂ aₙ₃ ... aₙₙ ...
...

이 목록은 0과 1 사이의 모든 실수를 빠짐없이 담고 있다고 ‘가정’된 상태였다. 이제 칸토르는 자신이 고안한 방식으로 새로운 실수 ‘b’를 만들 차례였다.

실수 b = 0.b₁b₂b₃b₄... 는 다음과 같은 규칙으로 정의된다.

• b₁은 S₁의 소수점 첫째 자리 a₁₁과 다른 숫자.
• b₂는 S₂의 소수점 둘째 자리 a₂₂와 다른 숫자.
• b₃는 S₃의 소수점 셋째 자리 a₃₃와 다른 숫자.
• ...
• bₙ은 Sₙ의 소수점 n번째 자리 aₙₙ과 다른 숫자.

예를 들어, 만약 목록의 대각선 성분들이 다음과 같다고 하자.
a₁₁ = 3
a₂₂ = 7
a₃₃ = 0
a₄₄ = 9
...

그렇다면 새로운 실수 b는 (예시로, 각 자릿수에 1을 더하고 9 다음은 0으로 한다고 가정하면)
b₁ = (3+1) = 4
b₂ = (7+1) = 8
b₃ = (0+1) = 1
b₄ = (9+1) = 0 (만약 9면 0으로 바꾼다고 가정)
...
이렇게 구성될 수 있다. (실제로는 어떤 규칙이든 대각선 성분과 ‘다르기만’ 하면 된다. 예를 들어, 5보다 작으면 7로, 5 이상이면 2로 바꾼다거나 하는 식으로.)

자, 이제 결정적인 질문이 던져진다. 이렇게 만들어진 새로운 실수 b는 과연 원래의 목록 S₁, S₂, S₃, ... 어디에 존재하는가?

만약 b가 목록의 첫 번째 실수 S₁과 같다면, b의 소수점 첫째 자리 b₁은 S₁의 소수점 첫째 자리 a₁₁과 같아야 한다. 그러나 우리는 b₁을 a₁₁과 ‘다르게’ 정의했다! 따라서 b는 S₁과 같을 수 없다.

만약 b가 목록의 두 번째 실수 S₂와 같다면, b의 소수점 둘째 자리 b₂는 S₂의 소수점 둘째 자리 a₂₂와 같아야 한다. 그러나 우리는 b₂를 a₂₂와 ‘다르게’ 정의했다! 따라서 b는 S₂와 같을 수 없다.

마찬가지로, 만약 b가 목록의 n번째 실수 Sₙ과 같다면, b의 소수점 n번째 자리 bₙ은 Sₙ의 소수점 n번째 자리 aₙₙ과 같아야 한다. 그러나 우리는 bₙ을 aₙₙ과 ‘다르게’ 정의했다! 따라서 b는 Sₙ과 같을 수 없다.

이 논리는 목록에 있는 모든 실수에 대해 적용된다. 즉, 우리가 어떻게 새로운 실수 b를 구성했든 간에, 그 실수 b는 목록상의 어떤 실수와도 소수점 특정 자리에서 반드시 다르게 된다.

결론은 충격적이었다.
우리가 방금 구성한 새로운 실수 b는 0과 1 사이의 실수임이 분명하지만, 처음 가정했던 ‘0과 1 사이의 모든 실수를 담고 있는 목록’에는 존재하지 않는다!

이것은 명백한 모순이다!

만약 목록이 정말로 모든 실수를 담고 있었다면, 우리가 어떤 방식으로 실수를 만들든 그 실수는 목록 안에 있어야 한다. 그러나 우리는 방금 목록에 없는 새로운 실수를 성공적으로 만들어냈다.

이 모순은 어디에서 비롯된 것일까? 그것은 바로 최초의 가정, 즉 ‘0과 1 사이의 모든 실수를 셀 수 있다(목록으로 만들 수 있다)’는 가정이 틀렸다는 것을 의미한다.

따라서, 0과 1 사이의 실수들은 자연수와 일대일 대응을 시킬 수 없다. 즉, 실수는 ‘셀 수 없는(uncountable)’ 무한개의 원소를 가진다!

칸토르는 펜을 내려놓았다. 그의 심장은 여전히 세차게 뛰고 있었지만, 그의 얼굴에는 깊은 만족감이 어렸다. 그는 마침내 해낸 것이다. 그는 자연수의 무한보다 ‘더 큰’ 무한이 존재한다는 것을, 흔들림 없는 논리로 증명해 보였다.

이 ‘대각선 논법’은 그 단순함과 명쾌함, 그리고 그 결과의 심오함 때문에 수학 역사상 가장 아름다운 증명 중 하나로 꼽히게 된다. 그것은 마치 잘 조준된 화살처럼 정확하게 목표를 관통했고, 그 파장은 수학계 전체를 뒤흔들기에 충분했다.

유리수는 셀 수 있었지만, 실수는 셀 수 없었다. 이것은 무한에도 서로 다른 ‘크기’가 존재한다는 칸토르의 주장에 결정적인 증거를 제공했다. 무한은 더 이상 단일하고 균일한 개념이 아니었다. 그것은 마치 거대한 산맥처럼 다양한 높이와 깊이를 가진, 계층적인 구조를 가진 세계임이 드러난 것이다.

칸토르는 흥분을 가라앉히고 창밖을 바라보았다. 새벽의 여명이 밝아오고 있었다. 그의 마음속에도 새로운 시대의 여명이 밝아오는 듯했다. 그는 자신이 열어젖힌 이 새로운 세계가 앞으로 어떤 논쟁과 발견을 낳게 될지 아직 알지 못했다. 하지만 한 가지는 분명했다. 수학은 이전과 결코 같을 수 없다는 것. 그는 무한의 문을 활짝 열었고, 그 문 너머에는 상상조차 할 수 없었던 새로운 풍경들이 펼쳐져 있었다.