상단영역

본문영역

이 기사를 공유합니다

55. 앤드루 와일즈의 수학 진리

“이쯤에서 끝내는 것이 좋겠습니다”

▲ 그림=근호

1963년 어느 날, 영국 소년 앤드루 와일즈는 마을 도서관에 들러 ‘최후의 문제’라는 책에서 17세기 프랑스의 수학자 피에르 드 페르마와 관련된 문제 하나가 풀리지 않는 문제로 남아 있다는 내용을 읽었다.

누구도 증명하지 못한 방정식
필생의 문제로 연구한 와일즈
7년 만에 하자 해결하며 증명

한번 성립되어진 수학 정리는
논리적 증명만으로 성립 가능
절대 무너지지 않는 진리 돼

진리 향한 끈질긴 분투 보며
종교의 진리성 성찰하게 돼
나를 점검해보는 계기되기도

‘페르마의 마지막 정리’라 불리는 그 문제는 이렇다. “xⁿ+ yⁿ= zⁿ/ n이 3 이상의 정수일 때, 이 방정식을 만족하는 정수해 x, y, z는 존재하지 않는다.”

페르마는 피타고라스의 정리, 즉 “직각삼각형에서, 빗변의 길이 z를 제곱한 값은 나머지 두 변 x와 y를 제곱하여 합한 값과 같다(x² + y² = z²).”와 쌍둥이처럼 닮은 이 정리를 자신이 증명했다고 말한 다음 증명을 제시하지는 않았다. 페르마가 증명을 제시하지 않고 낸 문제는 더 있어서 모두 다섯 가지였다. 시간이 흘러 그중 앞의 네 문제는 모두 풀렸지만 5번 문제는 풀리지 않고 남아 있었기 때문에 이 문제에 페르마의 ‘마지막 정리’라는 이름이 붙은 것이었다.

페르마가 죽은 뒤, 많은 수학자들이 이 문제에 매달려 페르마가 제시하지 않은 증명을 재현하려고 안간힘을 썼지만 모두 실패했다. 그렇게 3백여 년이 흐르는 동안 페르마의 마지막 정리는 ‘수학 역사상 가장 지독한 수수께끼’라는 이름을 얻었다.

선배 수학자들에게 치욕을 안겼다는 사실에 기죽지 않고 소년 앤드루 와일즈는 페르마의 마지막 정리를 증명하겠다는 포부를 품었다. 1975년, 그는 케임브리지 대학의 대학원생이 되었다. 학업 때문에 잠시 페르마의 정리 문제를 젖혀놓아야 했지만 그가 페르마의 마지막 정리를 잊은 것은 아니었다. 그는 우연히 타원곡선을 다루는 수학 분야를 공부하게 되었는데, 이 공부는 훗날 그가 페르마의 마지막 정리를 해결하는 데 큰 도움이 된다.

마침내 와일즈는 필생의 문제에 본격적으로 매달렸다. 그는 최신 계산법을 익힌 다음, 타원 방정식과 모듈 형태에 관련된 모든 수학을 섭렵하는 데 18개월을 보냈다. 그는 자신이 일하는 학교를 제외한 모든 학술 모임과 세미나에 참석하지 않았고, 페르마의 마지막 정리를 증명하는 것과 관련이 없는 모든 일에서 손을 뗐으며, 집중력을 유지하기 위해 연구를 자신의 집에서만 수행했다.

1908년 이래 괴팅겐 왕립 과학원은 페르마의 마지막 정리를 증명한 사람에게 10만 마르크의 상금을 내걸고 수상자를 기다리고 있었다. 상금 제공자 이름을 따서 ‘볼프스켈 상’이라 불리게 된 이 상을 받게 될 수학자의 명예는 노벨상을 받는 사람보다도 대단할 것이었다. 노벨상은 다섯 분야에 걸쳐 매년 한 사람씩 수상자가 나오지만 볼프스켈 상은 제정된 지 수십 년이 지나도록 아직껏 수상자를 내지 못하고 있었기 때문이다.

1992년, 와일즈는 자신이 이 문제를 증명했다고 믿었다. 하지만 그의 논문에는 하자가 한 군데 있었고, 이를 해결하기 위해 그는 1년의 시간을 더 보냈다. 마침내 1993년 6월 23, 앤드루 와일즈는 프린스턴 대학에서 많은 수학자들과 기자들을 모아놓고 3일에 걸쳐 페르마의 마지막 정리에 대한 강의를 할 수 있었다.

마지막 날, 강의가 막바지를 향해 나아가고 있을 때 청중들은 얼어붙은 듯 미동도 하지 않았다. 3단으로 된 칠판을 수식으로 가득 메운 다음 앤드루 와일즈는 첫 번째 칠판을 지우고 그 위에 자신이 7년 동안 매달렸던 문제의 마지막을 쓰며 말했다. “이쯤에서 끝내는 것이 좋겠습니다.”

우레와 같은 박수가 터져 나왔고, 잠시 후 두 번째 박수가 터져 나왔다. 수학 역사상 최고의 난제였던 페르마의 마지막 정리는 그렇게 인간 지성 앞에 진실의 알몸을 드러냈다. ‘가디언’지는 “수학 최후의 수수께끼가 풀리다” ‘르 몽드’는 “‘페르마의 정리’가 드디어 해결되다” ‘뉴욕 타임즈’는 “유서 깊은 수학 미스터리, 마침내 유레카의 함성이 터지다”라는 제목의 기사를 올려 위대한 수학자의 탄생을 알렸다.

물리적 현상을 설명하기 위해 자연 과학자들은 먼저 가정(假定, bypothesis)을 세운다. 그런 다음 관측된 현상들이 가정에 맞는다는 증거들이 다수 확보되고, 동일한 조건이 주어졌을 때 동일한 결과가 나오리라는 예측이 성립하면 가정으로서의 그 이론은 법칙(法則, law of nature)으로 승격된다.

하지만 법칙이 곧 ‘진리’는 아니다. 과학이론의 ‘증명’은 관측에 의한 검증 자료로써 이루어지는데, 검증 자료는 불완전한 인간의 지각(개인적 주관성)때문에 만들어지기 때문이다. 따라서 자연과학의 법칙은 ‘진리의 근사 개념’이다. 한 시대에 진리처럼 믿어졌던 과학 법칙이 다음 시대에 이르러 폐기되거나 개정된 사례는 매우 많다.

그에 비해 한번 성립한 수학의 정리(定理, theorem)는 시간이 아무리 흐른다고 해도 폐기되거나 개정되지 않는다. 수학의 정리는 ‘그 자체로서 사실임이 분명한’ 공리(公理, axiom)로부터 출발하여 ‘증명(證明, Mathematical proof)’을 거쳐 확립되는데, 증명을 위해 검증 자료를 모을 필요는 없다. 정리는 자료와는 상관없이 순수한 논리적 증명만으로 성립하며, 일단 성립한 정리는 언제나 어느 곳에서나 누구에게나, 심지어 우주가 없어진다고 해도 무너지지 않는 ‘진리’로 받아들여진다.

인문학 이론은 증명의 엄밀성 면에서 수학과 자연과학에 비해 매우 취약하다. 인문학 이론들은 수학과 자연과학에 비해 엄밀성이 느슨한 검증(증명) 과정을 거쳐서 생산된다. 이렇게 생산된 인문학 이론은 언제나 어느 곳에서나 누구에게나 통용되지는 않으며, 한 학자의 억지 주장에 불과할 경우도 적지 않다.

사실 그 자체인 수학적 진실, 진리의 근사 개념인 자연과학적 진실, 느슨한 진리 개념인 인문학적 진실. 문제는 인간과 세계에는 인문학적인 면이 있다는 점이다. 인간과 세계는 수학과 자연과학만으로는 다 해명할 수 없는 철학, 예술, 종교 등의 영역이 있는 것이다.

종교가 선포하는 진리가 하나의 ‘주장’에 불과하다고 논박하는 이들이 있다. 이에 대해 일부 신학자들은 성경(불경)의 지식은 ‘인간의 지식’을 넘어선 ‘신(God, 또는 Dharma)의 지식(신학)’이므로 종교를 인간학의 차원에서 다루는 것은 어불성설이라고 반박하며, 전자는 그 반박 또한 신이 아닌 인간의 주장에 불과하다고 재반박한다.

앤드루 와일즈는 언제나 어디서나 누구에게나 진실인 수학 진리 하나를 증명했다. 그의 진리를 향한 끈질긴 분투를 보며 우리는 내가 믿는 종교의 진리성에 대해 성찰하게 된다. 또한 내가 나의 종교적 진리를 향해 얼마나 끈질긴 분투를 하고 있는지를 점검해보게 된다.

김정빈 소설가·목포과학대교수 jeongbin22@hanmail.net
 

[1429호 / 2018년 2월 28일자 / 법보신문 ‘세상을 바꾸는 불교의 힘’]
※ 이 기사를 응원해주세요 : 후원 ARS 060-707-1080, 한 통에 5000원

저작권자 © 불교언론 법보신문 무단전재 및 재배포 금지
광고문의

개의 댓글

0 / 400
댓글 정렬
BEST댓글
BEST 댓글 답글과 추천수를 합산하여 자동으로 노출됩니다.
댓글삭제
삭제한 댓글은 다시 복구할 수 없습니다.
그래도 삭제하시겠습니까?
댓글수정
댓글 수정은 작성 후 1분내에만 가능합니다.
/ 400

내 댓글 모음

하단영역

매체정보

  • 서울특별시 종로구 종로 19 르메이에르 종로타운 A동 1501호
  • 대표전화 : 02-725-7010
  • 팩스 : 02-725-7017
  • 법인명 : ㈜법보신문사
  • 제호 : 불교언론 법보신문
  • 등록번호 : 서울 다 07229
  • 등록일 : 2005-11-29
  • 발행일 : 2005-11-29
  • 발행인 : 이재형
  • 편집인 : 남수연
  • 청소년보호책임자 : 이재형
불교언론 법보신문 모든 콘텐츠(영상,기사, 사진)는 저작권법의 보호를 받는 바, 무단 전재와 복사, 배포 등을 금합니다.
ND소프트