소수와 리만 가설 - 질서와 패턴을 찾고자 하는 이들의 궁극적 도전 대상

괜찮다고 말하지만 괜찮지 않은 너와 나, 우리가 안고 사는 우울. 그리고 그 감정이 가져온 마음의 병 우울증. 화제의 채널



▼리만 가설

소수의 목록을 아무리 살펴봐도 다음 소수가 언제 나타날지 예측하기는 불가능하다. 소수의 출현은 혼란스럽고 임의적이며, 다음 소수를 어찌 찾을 것인지에 대해 어떠한 실마리도 주지 않는다. 전 막스 플랑크 수학연구소장 돈 자이에의 표현을 빌리자면 소수는 “수학자들이 연구하는 것 중에서 가장 제멋대로이고 성질 고약한 대상으로, 자연수 사이에서 마치 잡초처럼 자라고 우연의 법칙 외에는 다른 어떠한 법칙도 따르지 않는 것처럼 보인다”. 소수의 목록은 수학의 심장 박동이지만, 독한 카페인에 취한 듯 마냥 불규칙적이다.

그러나 소수의 세계가 무질서의 지배를 받지 않을 것이라는 믿음이 오늘날 수학계를 지배하고 있다. 이 믿음에 결정적 근거를 제공한 이는 괴팅겐의 수학자 베른하르트 리만이다. 1859년 리만은 오일러의 아이디어(제타함수)를 극적으로 새로운 방식으로 발전시켜 소위 리만 제타함수라는 것을 정의했다. 이 제타함수가 내놓는 여러 결과 중 하나는 어떤 범위 X까지의 소수의 개수를 구하는 “정확한 공식”이었다.



▼리만 가설의 중요성

리만 가설로 불리는 이 추측은 그것을 참이라고 가정하며 시작하는 500개 이상의 또 다른 결론들을 낳았으며 오늘날 수학의 가장 어렵고 가장 중요한 미해결 문제로 널리 인식되고 있다. 리만 가설은 증명이 어렵기도 하지만 증명으로 인한 파급효과 역시 엄청날 것으로 예상된다. 그 증명은 정수론을 비롯해서 응용 수학 분야에 일대 혁명을 불러 올 것으로 보인다. 소수로부터 탄생한 현대식 컴퓨터 암호체계와 신용카드도 리만 가설에 그 뿌리를 두고 있다. 160년의 세월 동안 수많은 수학자들을 좌절로 이끌며 해결 가능성에 근본적인 의문마저 제기되었던 리만 가설 연구는, 20세기 후반 들어 휴 몽고메리와 프리먼 다이슨에 의해 양자 물리학의 핵심 분야들과 연관이 있다는 충격적인 사실이 드러나며 이제 물리학자들마저 이 분야에 끌어들이기 시작했다. 리만 가설의 증명은 계산수학의 발달과 수학-물리학의 학제적 연구로 새로운 활력을 얻고 있으며, 당대 최고의 수학자 중 한 명인 알랭 콘은 비가환기하학을 이용한 새로운 해법을 제시하며 리만 가설에 뛰어들었다.

많은 수학자들이 리만 가설이 옳다는 데 판돈을 걸어둔 상태이다. 소수가 정말로 리만이 예측한 대로 행동하리라는 가정 하에 수많은 또 다른 결론이 등장했다. 이처럼 수많은 결론들의 운명이 리만 가설의 정복에 달려 있기에 수학자들은 이것을 추측(conjecture)이 아니라 가설(hypothesis)이라고 부른다. ‘가설’은 수학자들이 어떤 이론을 세우는 데 필수적인 가정이란 점을 강하게 함축하는 용어이다. 이 가설이 참임을 증명한다면 정처 없이 떠돌던 500개가 넘는 논문들 역시 자동으로 증명되어 정리가 된다.



▼배리 메이저와 윌리엄 스타인의 『소수와 리만 가설』

리만 가설을 다룬 대중서를 찾아보기가 어렵던 시기, 승산은 이 주제를 다룬 훌륭한 두 책인 존 더비셔의 『리만 가설』(승산, 2006, 7쇄)과 마커스 드 사토이의 『소수의 음악』(승산, 2007, 4쇄)을 번역 출간하였다. 그리고 10년의 세월이 지나 다시 몇 권의 책이 등장했다. 이 가운데 가장 주목할 만한 책은 2015년 출간된 배리 메이저와 윌리엄 스타인의 『소수와 리만 가설(Prime Numbers and the Riemann Hypothesis)』이다.

1부에는 수학식이 거의 없다. 수학적 개념에 관심이나 호기심은 있지만, 심화된 주제에 대해서는 공부해 본 적이 없는 독자들을 위해 썼다. 1부에서는 전체적으로 리만 가설의 핵심을 전달하고, 왜 리만 가설이 그렇게 열정적으로 연구되었는지를 중점으로 설명한다. 미적분학은 사용하지 않았다. 최대한 쉽게 설명해야 한다는 한계가 있었지만, 1부는 시작, 중간, 끝을 가진다는 의미에서 그 자체로 완결성이 있다. 오직 1부만 읽는 독자라도 수학의 중요한 주제인 리만 가설의 매력을 느끼고 즐길 수 있을 것이다.

2부는 배운 지 오래 되었다 하더라도 미적분학 수업을 한 번 정도는 들었던 독자들을 위한 부분이다. 이 부분은 뒤에 등장할 푸리에 해석 유형을 이해하기 위한 대략적인 준비 과정으로, 핵심은 스펙트럼(spectrum)이라는 개념이다.

3부는 소수들의 위치와 리만 스펙트럼(이라 거기서 부를 것) 사이의 연관성을 좀 더 생생하게 보고 싶어 하는 독자들을 위한 부분이다.

4부는 복소 해석 함수를 어느 정도 알아야 이해할 수 있는 부분으로, 이 책의 최종 주제인 리만의 관점을 다룬다. 이 관점은 3부에서 논의되는 리만 스펙트럼을 리만 제타함수(Riemann zeta function)의 자명하지 않은 영점들(nontrivial zeroes)과 연관 짓는다. 또한 기존 출판물에서 리만 가설을 설명하던 좀 더 표준적인 진행 방식에 대한 대략적인 개요를 덧붙였다.

미주에서는 본문 내용과 참고 문헌들의 연계성을 보여 주고자 했다. 게다가 뒤로 갈수록 수학적 배경 지식이 더 많이 필요한데, 미주에서 그에 대한 더 많은 기술적 설명을 제공한다.

두 저자 메이저와 스타인은 리만 가설의 해석적, 기하학적, 정수론적 측면들 간의 상호 작용을 연구하는 선도적인 전문가다. 스타인은 Sage 수학 소프트웨어 프로젝트의 설립자이기도 하다. 의기투합한 두 사람이 이 참신한 책을 완성하는 데는 10년의 세월이 걸렸지만, 이 책은 짧고 간결하다. 매 해 집필 기간의 마지막 날에 원고(실수를 포함해서 전부)를 인터넷상에 올리고 독자들의 응답을 받았다. 그러므로 독자들로부터 받은 수많은 피드백, 수정, 요구들이 이 책에 모두 축적되어 있다.

저자와 편집자는 이렇게 선별된 리만 가설의 정수를 각 아이디어별로 정리하여 여러 개의 짤막한 장으로 구분해 두었다. 독자는 한 장씩 꼼꼼히 읽어 나갈 수도 있고 지루한 단계를 건너 뛰어 곧장 핵심으로 들어갈 수도 있다. 이러한 구성은 언제 어디서나 원하는 부분을 펼쳐 반복해서 읽기에도 좋다. 이 책이 독자의 곁에서 끊임없이 수학적 영감을 불러일으키기를 희망한다.