독자를 위한 집합론 멘탈 모델 (1): 그릇과 내용물

자, 이제 우리는 칸토르의 위대한 여정을 따라 무한의 세계를 탐험하고, 집합론이 현대 수학의 기초 언어가 되기까지의 험난했던 과정을 살펴보았다. 그의 이론은 때로는 너무나 추상적이고 난해하게 느껴질 수 있지만, 그 핵심 아이디어는 의외로 단순하고 직관적인 비유를 통해 이해할 수 있다. 이제부터 몇 화에 걸쳐, 칸토르가 우리에게 남겨준 집합론의 기본적인 개념들을 좀 더 친숙한 이미지로 그려보는 시간을 가져보자. 이것은 마치 복잡한 기계를 분해하여 그 부품들을 하나씩 살펴보는 것과 같을 것이다.

가장 먼저, 집합론의 주인공이라고 할 수 있는 ‘집합(Set)’ 그 자체에 대해 생각해보자. 칸토르는 집합을 “우리의 직관이나 사고에 의해 잘 정의되고 서로 구별 가능한 특정 대상들의 모임”이라고 정의했다. 이 말을 좀 더 쉽게 풀어보면, 집합이란 마치 ‘물건을 담는 그릇’과 같다고 생각할 수 있다.

이 그릇에는 몇 가지 중요한 특징이 있다.

첫째, 그릇에 무엇을 담을지 그 ‘내용물’이 명확해야 한다. 이것이 바로 ‘잘 정의된(well-defined)’이라는 말의 의미이다. 예를 들어, “이 교실 안에 있는 모든 학생들의 모임”은 하나의 집합이 될 수 있다. 누가 학생이고 누가 아닌지 명확히 구분할 수 있기 때문이다. 하지만 “이 세상의 모든 아름다운 그림들의 모임”은 집합으로 정의하기 애매할 수 있다. ‘아름다움’이라는 기준이 사람마다 다르고 모호하기 때문이다. (물론, 어떤 명확한 기준을 제시한다면 가능할 수도 있다.)

둘째, 그릇에 담긴 내용물들은 서로 ‘구별 가능해야(distinguishable)’ 한다. 그리고 같은 내용물을 여러 번 담는다고 해서 그릇 안의 내용물이 늘어나는 것은 아니다. 즉, 집합에서는 원소의 순서나 중복은 고려하지 않는다. 예를 들어, {사과, 배, 감}이라는 집합과 {배, 감, 사과}라는 집합은 같은 집합이다. 또한, {사과, 사과, 배}라는 모임은 그냥 {사과, 배}라는 집합과 같다. 사과라는 원소가 두 번 언급되었다고 해서 두 개의 다른 사과가 되는 것은 아니다. (만약 정말로 다른 두 개의 사과라면, ‘첫 번째 사과’, ‘두 번째 사과’처럼 구별 가능한 이름으로 불러야 할 것이다.)

이 ‘그릇’에 담기는 내용물, 즉 집합의 구성원들을 우리는 ‘원소(element)’라고 부른다. 원소는 숫자일 수도 있고, 사람일 수도 있고, 과일일 수도 있고, 심지어 다른 집합 자체일 수도 있다! 예를 들어, A = {1, 2} 라는 집합과 B = {3, 4} 라는 집합이 있을 때, C = {A, B} = {{1, 2}, {3, 4}} 와 같이 집합을 원소로 가지는 새로운 집합을 만들 수도 있다. 마치 작은 상자 두 개를 더 큰 상자 안에 담는 것과 같다.

이 ‘그릇과 내용물’이라는 이미지는 집합론의 몇 가지 기본적인 개념들을 이해하는 데 도움을 준다.

예를 들어, ‘공집합(empty set, ∅ 또는 {})’이라는 것이 있다. 이것은 아무것도 담고 있지 않은 ‘빈 그릇’이라고 생각할 수 있다. 내용물이 하나도 없는 집합도 엄연히 하나의 집합으로 인정하는 것이다. 처음에는 어색하게 느껴질 수 있지만, 공집합은 수학에서 숫자 0이 중요한 역할을 하듯이 집합론에서 매우 중요한 기초 개념이다.

또 다른 중요한 개념은 ‘부분집합(subset, ⊆)’이다. 만약 어떤 그릇 B에 담긴 모든 내용물이 다른 그릇 A에도 똑같이 담겨 있다면, 우리는 그릇 B를 그릇 A의 부분집합이라고 말한다. 예를 들어, A = {1, 2, 3, 4, 5} 이고 B = {2, 4} 라면, B는 A의 부분집합이다. B의 모든 원소(2와 4)는 A에도 포함되어 있기 때문이다. 이때 B는 A보다 ‘작거나 같은’ 크기의 그릇이라고 생각할 수 있다. 만약 B가 A의 부분집합이면서 A와 같지는 않을 때 (즉, A에는 B에 없는 원소가 적어도 하나 더 있을 때), B를 A의 ‘진부분집합(proper subset, ⊂)’이라고 부른다.

이처럼 ‘집합’을 ‘그릇’으로, ‘원소’를 ‘내용물’로 생각하면, 집합론의 기본적인 연산들도 쉽게 이해할 수 있다. 예를 들어, 두 집합의 ‘합집합(union, ∪)’은 두 그릇의 내용물을 모두 합쳐 하나의 큰 그릇에 담는 것과 같다. (중복되는 내용물은 한 번만 담는다.) ‘교집합(intersection, ∩)’은 두 그릇에 공통으로 들어있는 내용물만을 골라 새로운 그릇에 담는 것과 같다.

칸토르가 처음 ‘멩에’라는 그릇을 들고 나왔을 때, 그는 이 단순해 보이는 그릇 안에 무한이라는 거대한 바다를 담을 수 있을 것이라고는 상상하지 못했을지도 모른다. 그러나 이 ‘그릇과 내용물’이라는 기본적인 아이디어는 결국 수학의 모든 대상을 담아내고, 그 관계를 분석하며, 심지어 무한의 크기를 비교하는 강력한 도구로 발전하게 되었다.

다음 시간에는 이 ‘그릇’의 크기를 비교하는 칸토르의 마법 같은 방법, ‘일대일 대응’에 대해 좀 더 자세히 알아보도록 하자. 그의 손에서 이 단순한 아이디어가 어떻게 무한의 계층을 드러내는 놀라운 결과를 낳았는지 살펴보는 것은 매우 흥미로운 여정이 될 것이다. 칸토르의 세계는 여전히 우리에게 많은 것을 가르쳐주고 있다.