무한에도 크기가 있다! 알레프 널(ℵ₀)

칸토르의 대각선 논법은 수학계에 던져진 강력한 폭탄과 같았다. ‘실수는 셀 수 없다!’ 이 짧지만 단호한 선언은 무한에 대한 기존의 통념을 뿌리째 뒤흔들었다. 자연수, 정수, 유리수, 심지어 대수적 수까지도 모두 자연수와 ‘같은 크기’의 무한, 즉 ‘셀 수 있는(countable)’ 무한이었지만, 실수는 그들과 차원이 다른, 훨씬 더 ‘큰’ 무한임이 증명된 것이다.

이로써 칸토르의 가장 대담했던 가설, ‘무한에도 크기가 있다’는 주장은 단순한 추측을 넘어선 수학적 사실로 자리매김하게 되었다. 그는 이제 이 서로 다른 크기의 무한들을 체계적으로 분류하고 이름 붙일 필요성을 느꼈다. 마치 탐험가가 새로 발견한 강과 산에 이름을 붙이듯, 그는 미지의 무한의 영역에 질서를 부여하고자 했다.

그는 가장 기본적인 무한, 즉 자연수의 집합 {1, 2, 3, ...}이 가지는 크기(농도)에 특별한 기호를 부여하기로 했다. 그는 히브리어 알파벳의 첫 글자인 ‘알레프(א)’를 선택했다. 그리고 그 아래에 작은 숫자 0을 붙여 ‘알레프-눌(Aleph-null)’ 또는 ‘알레프-제로(Aleph-zero)’라고 쓰고, ℵ₀ (알레프 널) 이라는 기호로 표기했다.

ℵ₀ (알레프 널). 이것이 바로 ‘셀 수 있는 무한’의 크기를 나타내는 칸토르의 첫 번째 ‘초한기수(transfinite cardinal number)’였다.

• 자연수의 집합 N의 크기는 ℵ₀이다.
• 짝수의 집합 E의 크기도 ℵ₀이다. (N과 일대일 대응되므로)
• 정수의 집합 Z의 크기도 ℵ₀이다. (N과 일대일 대응되므로)
• 유리수의 집합 Q의 크기도 ℵ₀이다. (N과 일대일 대응되므로)
• 대수적 수의 집합 A의 크기도 ℵ₀이다. (N과 일대일 대응되므로)

이 모든 집합들은 서로 다른 모습을 하고 있었지만, 칸토르의 ‘일대일 대응’이라는 마법의 자를 통해 측정했을 때, 모두 같은 ‘무한의 등급’, 즉 ℵ₀의 크기를 가지고 있었다. 이것은 마치 서로 다른 모양과 재질의 그릇이라도 같은 양의 물을 담을 수 있는 것과 비슷했다.

그렇다면 실수의 집합 R의 크기는 무엇일까? 칸토르는 대각선 논법을 통해 실수의 집합이 자연수의 집합과 일대일 대응이 불가능하다는 것, 즉 그 크기가 ℵ₀보다 크다는 것을 증명했다. 그는 이 ‘셀 수 없는 무한’의 크기에 또 다른 이름을 붙였다. 그는 이 크기를 흔히 소문자 c (continuum의 약자)로 표기하거나, 혹은 더 큰 알레프 수로 표현하려 했다.

ℵ₀ < c

이 부등식은 칸토르의 가장 위대한 발견 중 하나를 압축적으로 보여준다. 무한에도 분명한 위계질서가 존재하며, ℵ₀는 그 계층 구조의 가장 낮은 단계에 있는 무한이었다. 그리고 실수 집합의 크기 c는 그보다 더 높은 곳에 존재하는, 더 강력한 무한이었다.

이 발견은 수학자들에게 엄청난 충격과 동시에 새로운 질문들을 안겨주었다.
“ℵ₀보다 큰 무한이 존재한다면, c보다 더 큰 무한도 존재할 수 있을까?”
“만약 그렇다면, 무한의 크기는 끝없이 계속되는 계층을 이루고 있을까?”

칸토르는 이미 이 질문들에 대한 답을 가지고 있었다. 그는 어떤 집합 A가 주어졌을 때, 그 집합의 모든 부분집합들의 모임, 즉 ‘멱집합(power set) P(A)’의 크기는 항상 원래 집합 A의 크기보다 크다는 것을 증명했다. (칸토어의 정리)

예를 들어, 집합 A = {1, 2}의 멱집합 P(A)는 {∅(공집합), {1}, {2}, {1,2}} 이며, A의 원소는 2개, P(A)의 원소는 4개로 P(A)의 크기가 더 크다.
이 원리는 무한집합에도 적용되었다. 즉, 자연수의 집합 N의 멱집합 P(N)의 크기는 ℵ₀보다 크다. 놀랍게도 칸토르는 이 P(N)의 크기가 바로 실수의 집합 R의 크기 c와 같다는 것을 증명했다!

c = |P(N)| > |N| = ℵ₀

이것은 무한의 계층이 실제로 존재하며, 멱집합 연산을 통해 끊임없이 더 큰 무한을 만들어낼 수 있다는 것을 의미했다. ℵ₀, 그 다음 c, 그리고 c의 멱집합의 크기, 또 그 멱집합의 크기… 마치 끝없이 이어지는 거대한 사다리처럼, 무한의 크기는 위로, 더 위로 뻗어 나갔다.

칸토르가 발견한 것은 단순한 수학적 정리가 아니었다. 그것은 인간이 상상할 수 있는 가장 근본적인 개념 중 하나인 ‘무한’에 대한 새로운 패러다임이었다. 그는 무한을 두려움의 대상이나 철학적 사변의 영역에서 끌어내려, 엄밀한 수학적 탐구의 대상으로 올려놓았다.

그러나 이 혁명적인 아이디어는 쉽게 받아들여지지 않았다. 특히 크로네커와 같은 유한주의자들은 칸토르의 ‘초한기수’라는 개념 자체를 맹렬히 비난했다. 그들에게 ℵ₀와 같은 기호는 실체가 없는 유령과도 같았으며, 칸토르가 수학을 신비주의로 오염시키고 있다고 주장했다.

“수학은 명확하고 구성 가능한 대상만을 다루어야 한다! 저런 알레프 기호들은 수학이 아니라 신학에서나 나올 법한 소리다!”
크로네커의 비판은 날카롭고 집요했다.

하지만 칸토르는 물러서지 않았다. 그는 자신이 발견한 무한의 세계가 신이 창조한 우주의 일부라고 굳게 믿었다. 그의 연구는 단순한 지적 유희가 아니라, 신의 창조물에 담긴 심오한 질서를 이해하려는 경건한 시도였다.

그는 자신의 첫 번째 초한기수 ℵ₀에 이어, 다음으로 더 큰 무한의 크기들을 탐구하기 시작했다. 그 과정에서 그는 수학 역사상 가장 풀리지 않는 수수께끼 중 하나와 마주하게 될 운명이었다. 바로 ‘연속체 가설’이라는 이름의 거대한 산이었다. 그의 여정은 이제 막 새로운 국면으로 접어들고 있었다. 무한의 계층을 발견한 기쁨 뒤에는, 또 다른 고뇌와 시련이 그를 기다리고 있었다.