다비트 힐베르트, "칸토어가 우리를 위해 창조한 낙원에서..."

러셀의 역설이 몰고 온 수학의 기초 위기. 칸토르의 집합론은 그 중심에서 거센 비판과 회의론에 직면해 있었다. 마치 잘 지어진 줄 알았던 대리석 궁전의 기둥뿌리가 썩어 들어가고 있다는 소문이 퍼진 것처럼, 수학자들은 불안감에 휩싸였다. 칸토르 자신도 이 역설의 그림자 아래에서 깊은 정신적 고통을 겪으며 스러져가고 있었다.

이러한 암울한 시기에, 칸토르의 이론을 강력하게 옹호하며 그 가치를 세상에 알리려 했던 한 줄기 빛과 같은 인물이 있었다. 그는 바로 독일 괴팅겐 대학의 거목, 당대 최고의 수학자 중 한 명으로 꼽히던 다비트 힐베르트(David Hilbert)였다.

힐베르트는 19세기 말과 20세기 초 수학의 거의 모든 분야에 걸쳐 방대한 업적을 남긴 전설적인 인물이었다. 그의 명성은 유럽을 넘어 전 세계에 알려져 있었고, 그의 말 한마디는 수학계 전체에 엄청난 영향력을 미쳤다. 그는 수학의 엄밀성과 통일성을 추구했으며, 특히 수학의 기초를 확립하는 문제에 깊은 관심을 가지고 있었다.

힐베르트는 칸토르의 집합론이 처음 등장했을 때부터 그 혁명적인 중요성을 간파한 몇 안 되는 선각자 중 하나였다. 그는 칸토르가 제시한 ‘무한’에 대한 새로운 관점과 ‘초한수’라는 개념이 수학의 영역을 상상할 수 없을 만큼 확장시킬 잠재력을 가지고 있다고 보았다. 비록 러셀의 역설과 같은 문제점들이 발견되기는 했지만, 그는 그것이 칸토르 이론 전체의 가치를 훼손하는 것은 아니라고 생각했다. 오히려 그는 이러한 역설들이 집합론을 더욱 견고하게 다듬는 계기가 될 수 있다고 믿었다.

1900년, 파리에서 열린 제2회 국제 수학자 대회. 이 역사적인 자리에서 힐베르트는 20세기 수학이 해결해야 할 23개의 중요한 문제들을 제시하며 수학의 미래 방향을 제시했다. 이 ‘힐베르트의 문제들’ 중 첫 번째 문제가 바로 칸토르의 ‘연속체 가설’이었고, 두 번째 문제는 ‘산술 공리의 무모순성 증명’으로, 이는 집합론과 깊은 관련이 있었다. 이 자체만으로도 힐베르트가 칸토르의 연구를 얼마나 중요하게 생각했는지를 알 수 있다.

힐베르트는 칸토르의 이론을 열정적으로 옹호했다. 그는 크로네커와 같은 유한주의자들의 비판에 맞서 칸토르의 편에 섰으며, 집합론이 수학의 필수적인 도구이자 언어가 되어야 한다고 주장했다. 그의 이러한 지지는 학계의 냉대 속에서 고립되어 있던 칸토르에게는 큰 힘이 되었을 것이다.

특히 힐베르트는 러셀의 역설로 인해 칸토르의 집합론 전체가 폐기되어야 한다는 주장에 대해 단호하게 반대했다. 그는 역설의 등장이 오히려 집합론을 더욱 엄밀하게 공리화하는 작업의 필요성을 일깨워주었다고 보았다. 그는 수학을 형식적인 공리 체계로 구성하고 그 체계의 무모순성을 증명하려는 ‘형식주의 프로그램’을 주창했는데, 이 프로그램의 성공적인 수행을 위해서도 칸토르의 집합론은 필수적인 기초였다.

힐베르트의 가장 유명한 발언 중 하나는 바로 칸토르의 집합론을 옹호하며 남긴 말이다.
“누구도 칸토어가 우리를 위해 창조한 낙원에서 우리를 추방할 수 없다 (Aus dem Paradies, das Cantor uns geschaffen, soll uns niemand vertreiben können).”

이 말은 1925년 뮌스터에서 열린 한 강연에서 나온 것으로, 당시 직관주의자들과 같은 비판 세력으로부터 칸토르의 집합론을 지키려는 그의 강한 의지를 보여준다. 그에게 칸토르의 집합론은 단순한 이론을 넘어, 수학자들이 자유롭게 탐험하고 새로운 발견을 할 수 있는 ‘낙원’과도 같았다. 비록 그 낙원에 몇몇 위험한 구덩이(역설)가 발견되었지만, 그렇다고 해서 낙원 전체를 버릴 수는 없다는 것이 그의 입장이었다. 오히려 구덩이를 메우고 안전장치를 설치하여 낙원을 더욱 살기 좋은 곳으로 만들어야 한다고 생각했다.

힐베르트의 이러한 강력한 지지는 칸토르의 이론이 수학계의 주류로 편입되는 데 결정적인 역할을 했다. 그의 명성과 권위는 많은 젊은 수학자들이 칸토르의 집합론을 진지하게 연구하도록 이끌었고, 집합론은 점차 수학의 모든 분야에서 사용되는 보편적인 언어로 자리 잡게 되었다.

비록 칸토르 자신은 말년에 정신적인 고통과 학계의 몰이해 속에서 쓸쓸한 시간을 보냈지만, 힐베르트와 같은 후대의 거장들에 의해 그의 업적은 재평가되고 그 진정한 가치를 인정받게 되었다. 힐베르트는 칸토르가 열어젖힌 무한의 세계가 가진 아름다움과 풍요로움을 꿰뚫어 보았고, 그 세계를 다음 세대 수학자들에게 물려주기 위해 노력했다.

칸토르가 외롭게 씨름했던 역설의 소용돌이 속에서, 힐베르트는 든든한 등대지기처럼 길을 밝혀주었다. 그는 칸토르의 이론이 단순한 개인의 망상이 아니라, 수학의 미래를 밝힐 중요한 열쇠임을 세상에 알렸다. 그의 외침, “칸토어가 우리를 위해 창조한 낙원에서 누구도 우리를 내쫓을 수 없다”는 말은 오늘날까지도 집합론의 중요성과 칸토르의 위대한 업적을 상징하는 명언으로 남아 있다. 비록 칸토르는 그 말을 직접 듣지 못했을지라도, 그의 영혼은 힐베르트의 목소리를 통해 깊은 위로를 받았을 것이다.