바이어슈트라스의 침묵, 데데킨트의 지지

칸토르가 쏘아 올린 ‘초한수’라는 이름의 불꽃은 수학계의 밤하늘을 현란하게 수놓았지만, 그 빛은 너무나 낯설고 강렬하여 많은 이들의 눈을 멀게 했다. 특히 수학의 엄밀성을 평생의 신조로 삼아온 원로들에게, 칸토르의 이론은 종종 이해의 범주를 넘어서는 것처럼 보였다.

칸토르가 베를린 시절 스승으로 모셨던 카를 바이어슈트라스. ‘현대 해석학의 아버지’로 불리며 논리적 엄밀성을 수학에 확립한 거장. 칸토르는 자신의 혁명적인 아이디어에 대해 누구보다 스승의 인정을 받고 싶어 했다. 바이어슈트라스라면 자신의 이론 속에 담긴 깊은 논리와 수학적 아름다움을 이해해 주리라 믿었다.

그러나 바이어슈트라스의 반응은 칸토르의 기대와는 사뭇 달랐다. 그는 칸토르의 초기 연구, 특히 삼각급수의 유일성 문제에 대한 성과에 대해서는 긍정적인 평가를 내리고 격려를 아끼지 않았다. 하지만 칸토르가 ‘실제 완성된 무한’을 다루고, ℵ₀니 ω니 하는 기호들을 사용하여 무한의 계층을 논하기 시작하자, 노스승은 신중한 태도를 보이기 시작했다.

바이어슈트라스는 본질적으로 신중하고 조심스러운 성격의 소유자였다. 그는 수학적 개념이 명확하게 정의되고 엄밀하게 다루어질 수 있을 때에만 그 가치를 인정했다. 칸토르가 제시한 ‘초한기수’나 ‘초한서수’와 같은 개념들은 그의 관점에서 볼 때 아직 충분히 다듬어지지 않았거나, 심지어 그 존재 자체가 의심스러운 것으로 비춰질 수 있었다.

그는 칸토르의 논문에 대해 공개적으로 비판하거나 반대하지는 않았다. 그러나 전폭적인 지지를 보내지도 않았다. 그의 침묵은 때로는 동의보다 더 무거운 압박감으로 다가왔다. 칸토르는 스승의 침묵 속에서 미묘한 불안감을 읽었다. 혹시 스승마저도 자신의 이론을 이해하지 못하거나, 심지어 위험하다고 생각하는 것은 아닐까?

바이어슈트라스의 영향력은 막강했다. 그가 칸토르의 이론을 적극적으로 지지했다면, 학계의 분위기는 사뭇 달라졌을지도 모른다. 그러나 그의 신중함은 결과적으로 칸토르를 더욱 고립시키는 요인 중 하나가 되었다. 크로네커의 맹렬한 공격 앞에서, 바이어슈트라스의 침묵은 칸토르에게 든든한 방패가 되어주지 못했다.

이러한 상황에서 칸토르에게 한 줄기 빛과 같은 존재가 있었다. 바로 그의 오랜 친구이자 학문적 동반자인 리하르트 데데킨트였다.

데데킨트는 칸토르와 마찬가지로 수학의 기초에 대해 깊이 고민하던 수학자였다. 그 역시 ‘실수의 연속성’ 문제를 해결하기 위해 ‘절단’이라는 개념을 통해 무한집합의 성질을 다루고 있었다. 그는 칸토르의 혁명적인 아이디어를 편견 없이 받아들이고, 그 안에 담긴 깊은 통찰력을 이해할 수 있는 몇 안 되는 인물 중 하나였다.

두 사람은 꾸준히 편지를 주고받으며 서로의 연구에 대해 논의했다. 칸토르는 자신의 새로운 발견이나 증명 과정에서의 어려움을 데데킨트에게 솔직하게 털어놓았고, 데데킨트는 예리한 질문과 따뜻한 격려로 답했다.

“나의 친구 칸토르여, 자네의 아이디어는 실로 놀랍네! 특히 실수가 셀 수 없다는 증명은 수학의 새로운 지평을 여는 것이라 생각하네. 비록 많은 이들이 자네를 오해하고 비난할지라도, 자네의 연구가 가진 진정한 가치는 언젠가 반드시 인정받을 것이라 믿네.”
데데킨트의 편지는 학계의 냉대와 크로네커의 공격으로 지쳐가던 칸토르에게 큰 위로와 용기를 주었다.

데데킨트는 단순히 정신적인 지지뿐만 아니라, 실제적인 도움도 아끼지 않았다. 그는 칸토르의 논문을 자신이 편집에 관여하는 학술지에 게재될 수 있도록 돕기도 했고, 칸토르의 아이디어를 다른 수학자들에게 소개하며 이해를 구하려 노력했다.

특히 칸토르가 ‘초한서수’라는 개념을 처음 구상했을 때, 데데킨트는 그 중요성을 즉시 간파하고 칸토르에게 이 내용을 논문으로 발표할 것을 강력히 권유했다. 만약 데데킨트의 격려가 없었다면, 칸토르의 가장 독창적인 아이디어 중 일부는 빛을 보지 못했을지도 모른다.

그러나 데데킨트 한 사람의 지지만으로는 거대한 학계의 흐름을 바꾸기에는 역부족이었다. 대부분의 수학자들은 여전히 칸토르의 이론을 의심의 눈초리로 바라보았고, 크로네커의 영향력은 여전히 막강했다.

바이어슈트라스의 의미심장한 침묵과 데데킨트의 따뜻하지만 제한적인 지지. 이 상반된 반응 속에서 칸토르는 외로운 줄타기를 계속해야 했다. 그의 연구는 점점 더 깊고 추상적인 영역으로 나아가고 있었지만, 그 길에는 동행자보다 비판자가 훨씬 더 많았다. 그의 정신은 점차 한계에 다다르고 있었다. 무한의 세계를 탐험하는 고독한 천재의 어깨 위에, 세상의 몰이해라는 무거운 짐이 더해지고 있었다. 그리고 그 짐은 곧 그의 연약한 정신을 짓누르기 시작할 터였다.