일대일 대응: 무한의 크기를 재는 마법의 자

유리수의 집합이 자연수의 집합과 ‘같은 크기’를 가진다는 칸토르의 발견은 수학계에 미묘한 파장을 일으켰다. 그의 주장을 이해한 소수의 수학자들은 경탄했지만, 대부분은 반신반의하거나 심지어 그의 논리에 결함이 있을 것이라고 의심했다. 어떻게 그 빽빽한 유리수가 드문드문 흩어진 자연수와 같은 개수를 가질 수 있단 말인가!

이러한 혼란의 중심에는 ‘집합의 크기를 비교한다’는 개념 자체에 대한 모호함이 있었다. 유한한 개수의 물건을 다룰 때는 문제가 간단하다. 사과 다섯 개와 오렌지 다섯 개는 같은 개수다. 사과 다섯 개와 오렌지 세 개는 사과가 더 많다. 하지만 대상이 무한히 많아지면 ‘더 많다’ 또는 ‘같다’는 말의 의미는 무엇일까?

칸토르는 이 근본적인 질문에 답하기 위해 자신이 사용한 방법을 명확하게 제시해야 했다. 그것이 바로 ‘일대일 대응(eineindeutige Zuordnung 또는 bijection)’이라는, 단순하지만 강력한 개념이었다.

생각해보자. 극장에 관객들이 앉아 있다. 모든 의자에 관객이 한 명씩 앉아 있고, 빈 의자도 없고, 서 있는 관객도 없다면, 우리는 관객의 수와 의자의 수가 정확히 같다고 말할 수 있다. 굳이 관객 수를 세고 의자 수를 세어서 비교할 필요가 없다. 관객 한 명과 의자 하나가 완벽하게 ‘짝’을 이루고 있기 때문이다.

또 다른 예를 들어보자. 저녁 식사 자리에 손님들이 도착했다. 각 손님에게 정확히 하나의 접시가 제공되고, 남는 접시도 없고, 접시를 받지 못한 손님도 없다면, 손님의 수와 접시의 수는 같다. 손님과 접시 사이에 완벽한 ‘짝짓기’가 이루어진 것이다.

칸토르가 주목한 것이 바로 이 ‘짝짓기’의 원리였다. 두 집합 A와 B가 있을 때, A의 각 원소에 B의 원소를 정확히 하나씩 대응시키고, 동시에 B의 각 원소에도 A의 원소가 정확히 하나씩 대응되도록 짝을 지을 수 있다면, 이 두 집합 사이에는 ‘일대일 대응’이 존재한다고 말한다. 그리고 이러한 일대일 대응이 존재할 경우, 칸토르는 두 집합의 ‘크기’ 또는 ‘농도(Mächtigkeit, Cardinality)’가 같다고 정의했다.

이것은 마치 두 집합의 크기를 재는 마법의 자와 같았다. 유한집합의 경우에는 너무나 당연하게 느껴지는 이 방법이, 무한집합의 세계에서는 상식을 뒤엎는 결과를 가져왔던 것이다.

예를 들어, 자연수의 집합 N = {1, 2, 3, 4, ...}과 짝수의 집합 E = {2, 4, 6, 8, ...}을 생각해보자. 짝수의 집합은 분명히 자연수 집합의 일부분(진부분집합)이다. 홀수가 빠져 있으니 당연히 자연수보다 ‘적을’ 것이라고 생각하기 쉽다.

그러나 칸토르의 ‘일대일 대응’이라는 자를 가져다 대면 상황이 달라진다.

• 자연수 1에는 짝수 2를 대응시킨다 (1 ↔ 2).
• 자연수 2에는 짝수 4를 대응시킨다 (2 ↔ 4).
• 자연수 3에는 짝수 6을 대응시킨다 (3 ↔ 6).
• ...
• 일반적으로, 자연수 n에는 짝수 2n을 대응시킨다 (n ↔ 2n).

이 대응을 보면, 모든 자연수는 자신만의 짝인 짝수를 가지고, 모든 짝수 또한 자신만의 짝인 자연수를 가진다. 빠지거나 남는 원소가 없다. 즉, 자연수의 집합과 짝수의 집합 사이에는 완벽한 일대일 대응이 존재하는 것이다!

따라서 칸토르의 정의에 따르면, 자연수의 집합과 짝수의 집합은 ‘같은 크기’를 가진다. 부분이 전체와 크기가 같을 수 있다는, 무한집합의 기묘한 성질이 드러나는 순간이었다. 이것은 유한한 세계의 상식으로는 도저히 이해하기 힘든 현상이었다.

마찬가지로, 칸토르는 자연수의 집합 N과 정수의 집합 Z = {..., -2, -1, 0, 1, 2, ...} 사이에도 일대일 대응을 만들 수 있음을 보였다. (예를 들어, 0에 1을, 양의 정수 n에 2n을, 음의 정수 -n에 2n+1을 대응시키는 방식). 따라서 정수의 집합도 자연수의 집합과 같은 크기를 가진다.

칸토르가 유리수의 집합 Q를 자연수의 집합 N과 일대일 대응시킨 것도 바로 이 ‘마법의 자’를 사용한 결과였다. 그가 제시한 대각선 논법과 유사한 배열 방식은, 아무리 촘촘해 보이는 유리수라도 결국 자연수와 하나하나 짝을 지을 수 있음을 명확히 보여주었다.

‘일대일 대응’은 칸토르에게 무한의 세계를 탐험하는 강력한 무기가 되었다. 그는 이 도구를 사용하여 다양한 무한집합들의 크기를 비교하기 시작했다. 마치 천문학자가 새로운 망원경으로 우주의 별들을 관측하듯, 칸토르는 이 ‘일대일 대응’이라는 렌즈를 통해 무한의 계층 구조를 들여다보기 시작한 것이다.

그러나 이 마법의 자는 때로는 너무나 놀랍고 기이한 결과를 보여주어 사람들을 당혹스럽게 만들었다. 크로네커와 같은 유한주의자들은 칸토르의 이러한 작업이 무의미하거나 심지어 위험한 장난이라고 비난했다. 그들에게 무한은 인간이 다룰 수 있는 대상이 아니었으며, 칸토르의 ‘일대일 대응’은 실체가 없는 유령을 가지고 노는 것처럼 보였다.

하지만 칸토르는 확신에 차 있었다. 그의 ‘일대일 대응’이라는 자는 무한의 세계에 질서를 부여하고, 그 비밀을 파헤칠 수 있는 열쇠였다. 그는 이제 이 자를 가지고 다음 질문에 도전할 준비를 하고 있었다. “모든 무한집합이 자연수와 같은 크기를 가질까? 아니면, 자연수보다 ‘더 큰’ 무한도 존재할까?”

그의 시선은 이미 실수의 집합으로 향해 있었다. 그곳에서 그는 일생일대의 발견을 하게 될 운명이었다. 그리고 그 발견은 수학의 역사를 영원히 바꿔놓게 될 터였다.