ZFC 공리계, 집합론의 새로운 토대

게오르크 칸토르라는 거성이 하늘로 돌아간 후, 그가 남긴 집합론이라는 광대한 유산은 이제 다음 세대 수학자들의 손에 의해 다듬어지고 체계화될 운명에 놓였다. 칸토르의 ‘소박한 집합론’은 러셀의 역설과 같은 치명적인 모순을 드러내며 그 한계를 명확히 했고, 이제 수학계는 이러한 역설들을 피하고 안전하게 집합을 다룰 수 있는 견고한 ‘규칙’의 필요성을 절감하고 있었다. 그 해답은 바로 ‘공리적 집합론’의 구축에 있었다.

이미 칸토르 생전에 에른스트 체르멜로는 1908년, 최초의 포괄적인 집합론 공리계를 제시하며 이 위대한 작업의 첫 삽을 떴다. 그의 공리계는 러셀의 역설을 회피하기 위해 ‘분리 공리꼴’과 같은 중요한 장치들을 포함하고 있었고, 칸토르가 발견한 대부분의 중요한 결과들을 유도해낼 수 있었다. 그러나 체르멜로의 공리계 역시 완벽하지는 않았다. 일부 수학자들은 그의 공리들이 여전히 모호하거나 불충분한 점이 있다고 지적했고, 더 강력하고 명확한 공리 체계의 필요성이 제기되었다.

이러한 상황에서 두 명의 수학자가 체르멜로의 작업을 계승하고 발전시키는 데 결정적인 역할을 했다. 그들은 바로 독일의 아브라함 프렝켈(Abraham Fraenkel)과 노르웨이의 토랄프 스콜렘(Thoralf Skolem)이었다.

프렝켈과 스콜렘은 1920년대 초, 거의 독립적으로 체르멜로의 공리계에 중요한 수정과 보완을 제안했다. 그들의 가장 중요한 기여 중 하나는 체르멜로의 ‘분리 공리꼴’을 더욱 일반화하고 강력하게 만든 ‘대치 공리꼴(Axiom schema of Replacement)’의 도입이었다.

분리 공리꼴은 이미 존재하는 집합의 ‘부분집합’만을 새로운 집합으로 인정했다. 그러나 수학에서는 종종 어떤 집합의 각 원소에 어떤 함수를 적용하여 얻어지는 새로운 대상들의 모임도 집합으로 다루어야 할 필요가 있었다. 예를 들어, 자연수 집합 {1, 2, 3}이 있고, 각 자연수 n에 대해 2n을 대응시키는 함수 f(n)=2n이 있다면, 그 결과인 {2, 4, 6}도 집합이어야 한다. 대치 공리꼴은 바로 이러한 종류의 집합 구성을 가능하게 하는 강력한 도구였다. 이 공리는 칸토르가 다루었던 매우 큰 초한서수들의 존재를 보장하는 데에도 중요한 역할을 했다.

프렝켈과 스콜렘의 기여, 그리고 그 과정에서 더욱 명확해진 ‘정칙성 공리(Axiom of Regularity 또는 Axiom of Foundation)’ (이 공리는 어떤 집합도 자기 자신을 원소로 포함하거나, A∈B∈A와 같은 순환적인 원소 관계를 가지는 것을 금지하여 특정 종류의 역설을 방지한다) 등을 포함하여, 체르멜로의 원래 공리계는 점차 오늘날 우리가 알고 있는 표준적인 집합론 공리계의 모습을 갖추어 갔다.

이 공리계를 우리는 흔히 ZFC 공리계라고 부른다.

• Z는 체르멜로(Zermelo)를 의미한다.
• F는 프렝켈(Fraenkel)을 의미한다. (때로는 S를 써서 스콜렘을 함께 나타내기도 한다.)
• C는 논란의 중심이었지만 결국 대부분의 수학에서 채택된 ‘선택공리(Axiom of Choice)’를 의미한다.

ZFC 공리계는 대략 9개 또는 10개의 공리(또는 공리꼴)로 이루어져 있으며, 현대 수학의 거의 모든 분야를 구축하는 가장 기본적인 토대로 받아들여지고 있다. 이 공리들은 다음과 같은 질문들에 대한 답을 제시하려 했다. "무엇이 집합인가?", "집합은 어떻게 만들어지는가?", "집합은 어떤 성질을 가지는가?"

ZFC 공리계의 목표는 명확했다. 칸토르가 열어젖힌 풍요로운 무한의 세계를 보존하면서도, 러셀의 역설과 같은 모순들이 발생하지 않도록 집합의 개념을 엄격하게 통제하는 것이었다. 이 공리들은 더 이상 ‘모든 것의 집합’이나 ‘자기 자신을 원소로 포함하지 않는 모든 집합들의 집합’과 같은 위험한 모임들이 ‘집합’으로 간주되는 것을 허용하지 않았다.

물론 ZFC 공리계가 모든 문제를 해결한 것은 아니었다. 여전히 선택공리에 대한 논쟁은 계속되었고, 공리계 자체의 무모순성(즉, 이 공리들로부터 모순이 유도되지 않는다는 보장) 또한 증명하기 어려운 문제로 남아 있었다. (훗날 괴델의 불완전성 정리는 ZFC와 같은 충분히 강력한 공리계는 그 자신의 무모순성을 스스로 증명할 수 없다는 것을 보여주게 된다.)

그럼에도 불구하고, ZFC 공리계는 20세기 수학의 발전에 지대한 공헌을 했다. 그것은 수학자들에게 공통의 언어와 작업의 틀을 제공했고, 이를 통해 집합론은 더욱 엄밀하고 체계적인 학문으로 발전할 수 있었다. 칸토르의 직관적인 아이디어들은 이제 견고한 공리적 토대 위에서 새로운 생명력을 얻게 된 것이다.

마치 혼란스러웠던 개척 시대가 끝나고 법과 질서가 확립된 국가가 세워지듯, 집합론은 칸토르의 ‘소박한’ 시대를 지나 체르멜로, 프렝켈, 스콜렘 등이 구축한 ‘공리적’ 시대로 접어들었다. 이 새로운 토대 위에서 수학자들은 더욱 대담하고 깊이 있는 탐험을 계속할 수 있게 되었다. 칸토르가 남긴 질문들, 특히 ‘연속체 가설’의 운명은 이제 이 ZFC라는 새로운 무대 위에서 펼쳐질 준비를 하고 있었다. 그의 유산은 이처럼 끊임없는 정련과 확장을 통해 더욱 빛을 발하고 있었다.