‘관념의 학문’ 수학을 통해 감추어진 현실구조를 보다

김지석의 종횡사해

김지석의 종횡사해

수학자 가운데는 실재론자가 적지 않다. 수학적 대상이 객관적으로 존재하는 것으로 믿는다는 얘기다. 수학이야말로 가장 관념적인 학문임을 생각하면 이상하게 들리기도 한다. 하지만 순수 관념인 듯했던 수학적 대상이 시간이 지나 현실에서 확인되는 경우가 적지 않다. 리만 가설이 대표적 사례다.

리만 가설은 소수(1과 자신 외에는 약수가 없는 수)에 대한 것이다. 독일 수학자 게오르크 프리드리히 베른하르트 리만(1826~1866)은 1859년 10쪽짜리 논문을 발표한다. ‘(소수의 분포를 보여주는) 제타함수의 자명하지 않은 모든 근들은 실수부가 2분의 1이다.’ 이 가설이 입증되면 모든 정수에서 소수가 어디에 위치하는지를 거의 정확하게 집어낼 수가 있다. 안타깝게도 지금까지 많은 수학자가 도전했으나 이 가설의 진위는 확증되지 않은 상태다. 그럼에도 이 가설이 맞다는 전제 아래 많은 명제가 통용된다.

리만 가설이 수학계를 넘어 본격 주목받기 시작한 것은 1970년대다. 무거운 원자의 핵이 낮은 에너지의 중성자와 부딪치면 불규칙해 보이는 에너지 준위를 나타낸다. 그런데 이 에너지 준위의 구조가 제타함수 근들의 분포와 닮은 사실이 밝혀졌다. 리만 가설을 통해 에너지 준위의 구조를 알아낼 수 있는 길이 열린 것이다. 미시 세계를 탐구하는 양자물리학과 소수의 분포를 다루는 정수론이 예기치 않은 곳에서 만난 셈이다.

수학적 실재론은 대개 세계가 합리적 질서에 따라 움직이고 있다고 전제한다. 그래야 엄격한 논리로 구성된 수학적 대상이 실제 세계와 일치할 수 있다. 이런 세계관은 근대 이후 서구 자연과학을 발전시키는 데 크게 기여했다. 이런 믿음이 20세기 이후 상당 부분 흔들린 건 사실이지만 수학이 세계, 특히 물리적 세계를 읽어낼 수 있는 가장 주요한 수단이라는 사실은 바뀌지 않는다.

미국의 클레이수학연구소는 2000년 ‘새 천 년 도전과제’로 7개 수학 문제를 공개하고 100만달러씩의 현상금을 내걸었다. 그 가운데 하나가 리만 가설이다. 한 세기 전인 1900년에도 독일 수학자 다비트 힐베르트(1862~1943)가 새 세기를 내다보며 23가지 문제를 제시했다. 이 중 리만 가설은 풀리지 않고 다음 세기로 넘겨진 유일한 문제다. 힐베르트는 리만 가설 증명의 중요성을 이렇게 표현했다. “달에서 파리를 잡는 것이죠. 그런 성과를 얻었다는 것은 그에 앞서 수많은 부수적 문제들이 먼저 해결됐다는 것을 뜻하며, 다시 이는 인류가 가진 물질적 어려움이 거의 극복됐다는 것을 뜻하기 때문입니다.”(<소수의 음악> 승산 펴냄, <수학의 확실성> 사이언스북스 펴냄)

독일 철학자 프리드리히 헤겔은 <법철학> 서문에서, “이성적인 것은 현실적이고 현실적인 것은 이성적이다”라는 유명한 말을 했다. 헤겔 좌파는 이 말의 앞쪽에 주목해 이성에 맞게 현실을 바꾸려 했고, 헤겔 우파는 뒤쪽을 강조해 이미 이성적인 현실을 고수하려 했다. 수학에선 이런 분열을 걱정할 필요가 없다. 수학적 대상은 이성적이면서 현실적일 가능성이 크니 말이다. 곧, 수학을 공부하면 평소에는 보이지 않던 현실의 구조가 보인다.

김지석 논설위원 [e-mail]