독자를 위한 집합론 멘탈 모델 (1): 그릇과 내용물

462025년 07월 17일5

자, 이제 우리는 칸토르의 위대한 여정을 따라 무한의 세계를 탐험하고, 집합론이 현대 수학의 기초 언어가 되기까지의 험난했던 과정을 살펴보았다. 그의 이론은 때로는 너무나 추상적이고 난해하게 느껴질 수 있지만, 그 핵심 아이디어는 의외로 단순하고 직관적인 비유를 통해 이해할 수 있다. 이제부터 몇 화에 걸쳐, 칸토르가 우리에게 남겨준 집합론의 기본적인 개념들을 좀 더 친숙한 이미지로 그려보는 시간을 가져보자. 이것은 마치 복잡한 기계를 분해하여 그 부품들을 하나씩 살펴보는 것과 같을 것이다.

가장 먼저, 집합론의 주인공이라고 할 수 있는 ‘집합(Set)’ 그 자체에 대해 생각해보자. 칸토르는 집합을 “우리의 직관이나 사고에 의해 잘 정의되고 서로 구별 가능한 특정 대상들의 모임”이라고 정의했다. 이 말을 좀 더 쉽게 풀어보면, 집합이란 마치 ‘물건을 담는 그릇’과 같다고 생각할 수 있다.

이 그릇에는 몇 가지 중요한 특징이 있다.

첫째, 그릇에 무엇을 담을지 그 ‘내용물’이 명확해야 한다. 이것이 바로 ‘잘 정의된(well-defined)’이라는 말의 의미이다. 예를 들어, “이 교실 안에 있는 모든 학생들의 모임”은 하나의 집합이 될 수 있다. 누가 학생이고 누가 아닌지 명확히 구분할 수 있기 때문이다. 하지만 “이 세상의 모든 아름다운 그림들의 모임”은 집합으로 정의하기 애매할 수 있다. ‘아름다움’이라는 기준이 사람마다 다르고 모호하기 때문이다. (물론, 어떤 명확한 기준을 제시한다면 가능할 수도 있다.)

둘째, 그릇에 담긴 내용물들은 서로 ‘구별 가능해야(distinguishable)’ 한다. 그리고 같은 내용물을 여러 번 담는다고 해서 그릇 안의 내용물이 늘어나는 것은 아니다. 즉, 집합에서는 원소의 순서나 중복은 고려하지 않는다. 예를 들어, {사과, 배, 감}이라는 집합과 {배, 감, 사과}라는 집합은 같은 집합이다. 또한, {사과, 사과, 배}라는 모임은 그냥 {사과, 배}라는 집합과 같다. 사과라는 원소가 두 번 언급되었다고 해서 두 개의 다른 사과가 되는 것은 아니다. (만약 정말로 다른 두 개의 사과라면, ‘첫 번째 사과’, ‘두 번째 사과’처럼 구별 가능한 이름으로 불러야 할 것이다.)

이 ‘그릇’에 담기는 내용물, 즉 집합의 구성원들을 우리는 ‘원소(element)’라고 부른다. 원소는 숫자일 수도 있고, 사람일 수도 있고, 과일일 수도 있고, 심지어 다른 집합 자체일 수도 있다! 예를 들어, A = {1, 2} 라는 집합과 B = {3, 4} 라는 집합이 있을 때, C = {A, B} = {{1, 2}, {3, 4}} 와 같이 집합을 원소로 가지는 새로운 집합을 만들 수도 있다. 마치 작은 상자 두 개를 더 큰 상자 안에 담는 것과 같다.

이 ‘그릇과 내용물’이라는 이미지는 집합론의 몇 가지 기본적인 개념들을 이해하는 데 도움을 준다.

예를 들어, ‘공집합(empty set, ∅ 또는 {})’이라는 것이 있다. 이것은 아무것도 담고 있지 않은 ‘빈 그릇’이라고 생각할 수 있다. 내용물이 하나도 없는 집합도 엄연히 하나의 집합으로 인정하는 것이다. 처음에는 어색하게 느껴질 수 있지만, 공집합은 수학에서 숫자 0이 중요한 역할을 하듯이 집합론에서 매우 중요한 기초 개념이다.

또 다른 중요한 개념은 ‘부분집합(subset, ⊆)’이다. 만약 어떤 그릇 B에 담긴 모든 내용물이 다른 그릇 A에도 똑같이 담겨 있다면, 우리는 그릇 B를 그릇 A의 부분집합이라고 말한다. 예를 들어, A = {1, 2, 3, 4, 5} 이고 B = {2, 4} 라면, B는 A의 부분집합이다. B의 모든 원소(2와 4)는 A에도 포함되어 있기 때문이다. 이때 B는 A보다 ‘작거나 같은’ 크기의 그릇이라고 생각할 수 있다. 만약 B가 A의 부분집합이면서 A와 같지는 않을 때 (즉, A에는 B에 없는 원소가 적어도 하나 더 있을 때), B를 A의 ‘진부분집합(proper subset, ⊂)’이라고 부른다.

이처럼 ‘집합’을 ‘그릇’으로, ‘원소’를 ‘내용물’로 생각하면, 집합론의 기본적인 연산들도 쉽게 이해할 수 있다. 예를 들어, 두 집합의 ‘합집합(union, ∪)’은 두 그릇의 내용물을 모두 합쳐 하나의 큰 그릇에 담는 것과 같다. (중복되는 내용물은 한 번만 담는다.) ‘교집합(intersection, ∩)’은 두 그릇에 공통으로 들어있는 내용물만을 골라 새로운 그릇에 담는 것과 같다.

칸토르가 처음 ‘멩에’라는 그릇을 들고 나왔을 때, 그는 이 단순해 보이는 그릇 안에 무한이라는 거대한 바다를 담을 수 있을 것이라고는 상상하지 못했을지도 모른다. 그러나 이 ‘그릇과 내용물’이라는 기본적인 아이디어는 결국 수학의 모든 대상을 담아내고, 그 관계를 분석하며, 심지어 무한의 크기를 비교하는 강력한 도구로 발전하게 되었다.

다음 시간에는 이 ‘그릇’의 크기를 비교하는 칸토르의 마법 같은 방법, ‘일대일 대응’에 대해 좀 더 자세히 알아보도록 하자. 그의 손에서 이 단순한 아이디어가 어떻게 무한의 계층을 드러내는 놀라운 결과를 낳았는지 살펴보는 것은 매우 흥미로운 여정이 될 것이다. 칸토르의 세계는 여전히 우리에게 많은 것을 가르쳐주고 있다.