대각선 논법의 탄생
제12화
발행일: 2025년 06월 13일
칸토르의 연구실은 폭풍 전야처럼 숨 막히는 긴장감으로 가득 찼다. 그의 목표는 명확했다. 0과 1 사이의 실수들이 자연수와 일대일 대응이 불가능함, 즉 ‘셀 수 없다’는 것을 증명하는 것. 이를 위해 그는 귀류법이라는 칼을 뽑아 들었다. 그의 전략은 단순하면서도 대담했다. “만약 0과 1 사이의 모든 실수를 남김없이 셀 수 있다고 가정해보자. 그리고 그 가정이 거짓임을 보여주자!”
밤늦도록 꺼지지 않는 등불 아래, 칸토르는 종이 위에 가상의 목록을 만들기 시작했다. 만약 0과 1 사이의 모든 실수를 셀 수 있다면, 우리는 그 실수들을 첫 번째, 두 번째, 세 번째… 이렇게 순서대로 나열하여 무한한 목록을 만들 수 있을 것이다. 각 실수는 소수점 이하로 끝없이 이어지는 숫자로 표현될 수 있다. (예를 들어 1/3 = 0.333..., 1/2 = 0.500..., 루트 2 / 2 = 0.70710678...)
그는 칠판에 다음과 같은 가상의 목록을 적어 내려갔다.
1번째 실수: 0. a₁₁ a₁₂ a₁₃ a₁₄ ...
2번째 실수: 0. a₂₁ a₂₂ a₂₃ a₂₄ ...
3번째 실수: 0. a₃₁ a₃₂ a₃₃ a₃₄ ...
4번째 실수: 0. a₄₁ a₄₂ a₄₃ a₄₄ ...
...
n번째 실수: 0. aₙ₁ aₙ₂ aₙ₃ aₙ₄ ... aₙₙ ...
...
여기서 aᵢⱼ는 i번째 실수의 소수점 아래 j번째 자리 숫자를 의미한다. 예를 들어 a₁₁은 첫 번째 실수의 소수점 첫째 자리 숫자, a₂₃은 두 번째 실수의 소수점 셋째 자리 숫자를 나타낸다. 칸토르는 이 목록이 0과 1 사이의 모든 실수를 포함하고 있다고 ‘가정’했다. 이 가정이 그의 공격 목표였다.
“좋아, 이 목록이 정말로 모든 실수를 담고 있다면, 나는 절대로 이 목록에 없는 새로운 실수를 만들어낼 수 없어야 한다.”
칸토르는 혼잣말을 중얼거리며 칠판을 매섭게 노려보았다. 그의 눈빛은 마치 사냥감을 발견한 매처럼 날카롭게 빛났다.
그의 시선은 목록의 대각선 방향으로 움직였다. 첫 번째 실수의 소수점 첫째 자리(a₁₁), 두 번째 실수의 소수점 둘째 자리(a₂₂), 세 번째 실수의 소수점 셋째 자리(a₃₃), 그리고 계속해서 n번째 실수의 소수점 n번째 자리(aₙₙ)…. 이 대각선상의 숫자들은 그에게 어떤 영감을 불어넣고 있었다.
“만약 내가 이 대각선상의 숫자들을 이용해서 새로운 실수를 만든다면 어떨까?”
그는 새로운 실수를 ‘b’라고 이름 붙이고, 그 소수점 아래 자릿수를 다음과 같이 구성하기로 했다.
- b의 소수점 첫째 자리 b₁은, a₁₁과 다른 숫자로 정한다. (예를 들어, a₁₁이 3이라면 b₁은 4로, a₁₁이 7이라면 b₁은 0으로. 단, 9로 끝나서 0으로 넘어가는 애매함을 피하기 위해 0이나 9를 제외한 다른 숫자로 바꾸는 등의 규칙을 정할 수 있다.)
- b의 소수점 둘째 자리 b₂는, a₂₂와 다른 숫자로 정한다.
- b의 소수점 셋째 자리 b₃는, a₃₃와 다른 숫자로 정한다.
- ...
- 일반적으로, b의 소수점 n번째 자리 bₙ은, aₙₙ과 다른 숫자로 정한다.
이렇게 만들어진 새로운 실수 b = 0.b₁b₂b₃b₄... 는 과연 어떤 특징을 가질까?
칸토르는 잠시 숨을 골랐다. 그의 심장이 세차게 뛰고 있었다. 그는 직감적으로 자신이 거대한 발견의 문턱에 서 있음을 느꼈다. 이 새로운 실수 b는, 만약 그의 가정이 옳다면, 처음 만들었던 ‘0과 1 사이의 모든 실수를 담고 있다는 목록’ 어딘가에 반드시 존재해야 한다. 예를 들어, 목록의 k번째 실수와 정확히 일치해야 할 것이다.
하지만 정말 그럴까?
칸토르는 펜을 고쳐 잡았다. 이제 그의 논증은 클라이맥스를 향해 치닫고 있었다. 그가 고안한 이 ‘대각선을 이용한 새로운 수의 구성’ 방법은 너무나 단순해 보였지만, 그 안에는 기존의 수학적 상식을 뒤흔들 만큼 강력한 파괴력이 숨겨져 있었다.
그의 준비는 끝났다. 이제 남은 것은 이 논리적 칼날을 휘둘러, ‘실수는 셀 수 있다’는 가정을 단숨에 베어버리는 것뿐이었다. 다음 순간, 수학의 역사는 새로운 장을 맞이하게 될 터였다. 무한의 세계에 대한 인간의 이해는 돌이킬 수 없는 전환점을 맞이하려 하고 있었다. 칸토르 자신도 모르는 사이에, 그는 판도라의 상자를 열고 있었던 것이다.
