수학의 중요한 순간 업적

1. 긁기와 응얼거림 : 일대일 대응에 의한 셈(수천 년 전)

수천 년 전에 원시인들이 진흙이나 돌을 긁어서 어떤 집합을 세기 시작하였을 때 매우 가능성 있는 최초의 수학의 위대한 순간이 나타났다. 작은 집합의 개수를 세기 위하여 그 집합의 각 원소에 대하여 손가락을 펴거나 접다가, 조금 더 큰 집합에 대하여는 진흙이나 돌 위를 긁어서 표시하였고, 그 뒤에는 집합의 개수를 소리로 세기 위하여 일종의 웅얼거림으로 발전하였을 것이며, 그 보다 더 뒤에는 그러한 수를 표현하기 위하여 숫자와 같은 기호들이 생겼을 것이다.
하나의 숫자를 특정한 상징으로써 나타내는 일대일 대응은 five와 hand의 관계처럼 신체의 각 부분을 이용한 것이 많았다.

2. 이집트의 가장 높은 피라미드 : 각뿔대 부피의 유도(기원 전 1850년경)

기원 전 1850년경의 것으로 추정되는 모스크바 파피루스는 25개의 문제를 포함하고 있는 수학적 문헌인데 ,그 문제의 14에는 이러한 수치적 보기가 있다. “당신에게 수직 높이가 6, 밑면의 길이가 4, 윗면의 길이가 2인 상단부가 잘린 피라미드가 주어져 있다. 당신은 4를 제곱해서 16을 얻는다. 당신은 4를…(생략)

3. 실험실에서 연구로 : 연역적 과정의 도입(기원 전 600년경)

(1) 원은 임의의 지름으로 2등분 된다.

(2) 이등변 삼각형의 두 밑각은 서로 같다.

(3) 교차하는 두 직선에 의하여 이루어지는 두 맞꼭지각은 서로 같다.

(4) 두 삼각형에서 대응하는 두 각이 서로 같고, 대응하는 한 변이 서로 같으면 합동이다.

(5) 반원에 내접하는 각은 직각이다.

4. 최초의 위대한 정리 : 피타고라스 정리(기원 전 540년경)

5. 최초의 위기의 도래 : 무리수의 발견(기원 전 540년경)

6. 최초 위기의 극복 : 에우독소스의 비율 이론(기원 전 370년경)

7. 수학의 체계화를 위한 첫걸음 : 실질적 공리학(기원 전 350년)

8. 수학자의 성서 : 유클리드의 `원론`(기원 전 300년)

(1) 임의의 두 점을 연결해서 하나의 직선을 그릴 수 있다.

(2) 선분은 양방향으로 연속적으로 하나의 직선으로 연장할 수 있다.

(3) 임의로 주어진 점을 중심으로 갖고 임의로 주어진 점을 통과하는 원을 그릴 수 있다.

(4) 모든 직각은 서로 같다.

(5) 한 직선이 두 직선과 만나서 같은 쪽에 있는 내각의 합이 두 직각보다 작을 때, 두 직선을 한 없이 연장하면 내각의 합이 두 직각보다 작은 쪽에서 두 직선은 만난다.

9. 철학자와 살인자 : 아르키메데스의 업적(기원 전 240년경)

10. 천문학의 부추김 : 프톨레마이오스의 현에 대한 수표의 작성(130년경)

삼각법의 유래는 명확하지 않으나, 기원 전 1600년 이전에도 코탄젠트나 시컨트 값에 대한 수표를 포함한 점토판 등이 있다.

테온은 ‘현에 대한 수표(table df chords)의 작성을 다룬 12권의 책을 기원 전 140년 경에 활동한 히파르쿠스(Hipparchus)의 공적으로 돌리고 있으며, 히파르쿠스의 책을 각색한 것으로 믿어지는 프톨레마이오스(Claudius Ptolemy)가 만든 수표는 보존되고 있다.

천문학에 대한 그리스의 연구결과를 프톨레마이오스가 대단히 명확하게 저술한 것은 기원 후 150년 경이다. ‘수학대계(Mathematical Collection)’로 알려진 이 책은 13권으로 이루어져 있는데 ‘현에 대한 수표’는 제1권에서 찾아볼 수 있다. 여기에는 1/2°에서 180°도까지를 1/2°도 간격으로, 주어진 원의 중심각에 대한 현의 길이가 포함되어 있다. 이 수표에 대한 프톨레마이오스의 정리는 “원에 내접하는 사변형에서 대각선의 곱은 두 대변의 곱의 합과 같다.”라는 것이다.

11. 최초의 위대한 수론학자 : 디오판토스와 산학(250년경)

수 사이의 관계를 연구하는 이론적 측면을 ‘수론(number theory)’이라고 한다. 수학사의 수론 분야에서 진정한 천재로 두드러진 사람은 디오판토스(Diophantus)이다. 디오판토스는 원래 열세 권이었으나 여섯 권만이 현존하고 있는 ‘산학’, 단지 일부만이 현존하고 있는 ‘다각수에 대하여(On Polygonal Number)’그리고 분실된 ‘부정명제론(Porisms)’등 세 가지의 수학적 작품을 남겼다. 그 가운데에서 ‘산학’은 대수적 수론을 해석적으로 다룬 것으로서, 그 현존하는 부분은 상당히 다양한 일차방정식과 이차방정식을 유도하는 약 130개의 문제에 대한 풀이에 충당되고 있다. 그 풀이에서 디오판토스는 단지 양의 유리수인 解(해)만을 인식하였으며, 다른 많은 해가 존재할 수 있더라도 하나의 해를 찾으면 만족하였다.‘산학 제2권’에는 “주어진 제곱수를 두 제곱수로 나누기”라는 문제가 있는데, 이에 대한 바셰(Bachet)의 번역서의 여백에 페르마(Fermat)가 “세제곱수를 두 개의 세제곱수로 나누거나, 네제곱수를 두 개의 네제곱수로 나누기, 또는 일반적으로 임의의 거듭제곱수를 같은 차수의 두 개의 거듭제곱수로 나누는 것은 불가능하다. 나는 확실히 이 사실에 대한 놀라운 증명을 발견하였지만, 여백이 너무 좁아서 그것을 포함할 수 없다.”라고 썼으며, 이를 `페르마의 마지막 정리`라고 부르게 되었다.

12. 대수학의 축약 : 대수적 기호화의 첫 단계(250년경)

13. 초기의 두 가지 계산도구 : 주판(불확실)과 인도-아라비아 수체계(800년 이전)

사람의 손가락 다음으로 오래 된 계산도구로서의 주판이 얼마나 언제 등장하였는지는 정확하게 알 수 없으나, 고대와 중세에 서로 다른 곳에서 서로 다른 형태로 존재하였다.

오늘날 세계 사람들은 서로 다른 언어를 사용하면서도 같은 수기호를 사용하고 있다. 그것은 0, 1, 2, 3, 4, 5, 6, 7, 8, 9 등을 자리가 있는 수열로 표현하는 것이다.(*주 1) 이러한 수체계에 대한 가장 오래된 표기는 인도의 기원 전 250년경에 세워진 몇 개의 돌기둥에서 볼 수 있다. 그러나 페르시아의 수학자 알콰리즈미(Al-Khowarizmi)에 의하여 825년에 출판된 책에서 비로소 그 수체계에 대한 완벽한 설명이 나타난다. 그리하여 이것을 ‘인도-아라비아 수체계(Hindu-Arabic numeral system)’라고 부르게 되었으며, 알콰리즈미로부터 오늘날의 용어‘알고리즘(algorithm)’이 유래되었다.

(*주 1) 5세기 경에 있었던 ‘숫자 0’의 발명은, 한국과학문화재단이 선정한, 인류의 역사를 바꾼 100대 과학사건의 하나에 속한다.

14. 호라산의 시인 - 수학자 : 삼차방정식의 기하적 해법(1090년경)

15. 얼간이 : 피보나치와 산반서(1202년)

그 하나는 기원 전 1650년 고대 이집트의 린드 파피루스에 나오는 “어떤 재산이 일곱 채의 집으로 이루어져 있다. 각 집에는 일곱 마리의 고양이가 있다. 각 고양이는 일곱 마리의 쥐를 잡아 먹었다. 각 쥐는 밀 일곱 포기씩을 먹었다. 말의 각 포기로는 일곱 헤카트의 곡물을 생산할 수 있다. 집, 고양이, 쥐, 밀, 곡물의 헤카트 수 등 이 재산에 포함되어 있는 이와 같은 모든 것을 합하면 얼마가 되느냐?”라는 문제를 옮긴 것으로 보이는 문제이다.

다른 하나는 “한 쌍의 토끼가 매달 한 쌍의 토끼를 낳고, 새로운 토끼쌍은 두 달 뒤부터 그와 같은 방법으로 새끼를 낳는다면, 한 쌍의 토끼는 일 년 동안 얼마나 많은 토끼를 생산할 수 있을까?”라는 문제이다. 이 문제는 흥미로운 수열을 보여준다.

1, 1, 2, 3, 5,……, x, y, x+y, ……

처음 두 항은 1이고, 그 이후는 바로 직전 두 항의 합과 같은 이 수열은 ‘피보나치 수열’로 불리게 되었다. 이 수열은 하나의 정사각형을 서로 다른 정사각형으로 분할하는 것과 같은 수수께끼, 벌의 번식, 잎의 차례, 해바라기나 데이지와 같은 복합 꽃의 씨 등에서 놀랄 만큼 많이 나타난다. 피보나치 수열에서 연속된 항의 비를 택하면

1/1, 1/2, 2/3, 3/5, 5/8, 8/13, …… 과 같은 수열을 얻다. 이 수열은 수학적으로 (수식 1) 곧 황금비에 수렴하는 것으로써, 자연은 황금비에 접근하려고 하는 것으로 여겨진다. 피보나치는 ‘산반서’이외에도 ‘실용기하학(Practica geometriae)’과 ‘제곱근서(Liber quadratorum)’를 썼다.

(수식 1)

16. 놀랍고 기괴한 이야기 : 삼·사차방정식의 대수적 해법(1554년)

볼로냐 대학교의 수학교수이었던 페로(Ferro)는 이차항이 없는 (수식 2) 형태의 삼차방정식을 대수적으로 풀었으며, 말더듬이라는 뜻의 타르탈리아(Tartaglia)로 불렸던 폰타나(Fontana)는 일차항이 없는 (수식 3) 형태의 삼차방정식에 대한 대수적 해법을 발견하였다고 주장하였다. 이 두 사람의 공개시합에서 이차항이 없는 삼차방정식의 대수적 해법까지를 발견한 타르탈리아가 승리하였다. 밀라노에서 수학을 가르치며 의사로 개업하고 있던 카르다노(Cardano)는 타르탈리아로부터 그 해법을 얻어 내어‘위대한 계산법(Ars magna)’을 출판하면서 그 해법을 실었다. 타르탈리아는 카르다노에게 항의하였으나, 그 항의는 오히려 카르다노의 제자인 페라리(Ferrai)로부터 표절이라는 고발을 받게 되었다.

그로부터 얼마 되지 않아 이탈리아이 수학자 다코이(da Coi)는 카르다노에게 “10을 세수로 나누어 그 세수가 연비례하고, 첫 두수의 곱은 6이 되도록 하라”라는 문제를 제시하였다. 이 문제는 풀이과정에서 필연적으로 (수식 4) 형태의 사차방정식의 대수적 해법이 등장하게 되는데, 이 문제의 풀이에 카르다노는 실패하였으나, 페라리는 성공하였다. 카르다노는 즉각 페라리의 해법을 그의 저서‘위대한 계산법’에 포함시켰다. 그 뒤에 곧 삼차방정식과 사차방정식에 대한 또 다른 대수적 해법이 나타났다.

(수식 2)

(수식 3)

(수식 4)

17. 천문학자의 수명을 두 배로 : 네이피어에 의한 로그의 발견(1614년)

(수식 5)

18. 자연과학의 자극 ; 갈릴레오의 역학(1589년 이후)과 케플러의 행성운동의 법칙(1619년)

(1) 행성은 태양의 주위를 태양이 하나의 초점이 되는 타원을 궤도로 회전한다,

(2) 같은 시간 동안에 행성과 태양을 연결하는 선분이 만드는 부분의 넓이는 서로 같다.

(3) 행성의 1주기의 제곱은 궤도의 장축 반의 세제곱에 비례한다.

(수식 6)

19. 얇게 가르자 : 카발리에리의 불가분량의 방법(1635년)

(1) 두 개의 평면도형이 한 쌍의 평행선 사이에 끼어 있고 그 평행선들과 평행인 임의의 선으로 그 두 평면도형을 잘랐을 때 생기는 두 선분의 길이가 항상 일정한 비를 가지면, 두 평면도형의 넓이 또한 그 비를 갖는다.

(2) 두 개의 공간도형이 한 쌍의 평행선 사이에 끼어 있고, 그 평행면들과 평행인 임의의 면으로 그 두 공간도형을 잘랐을 때 생기는 두 단면의 넓이가 항상 일정한 비를 가지면, 두 공간도형의 부피도 또한 그 비를 갖는다.

이 원리들은 넓이와 부피를 계산하는 데에 유용한 도구가 된다.

20. 변환 - 풀이 - 반전 기법 : 해석기하학의 발견(1637년)

21. 무질서 속의 질서 : 수학적 확률론의 탄생(1654년)

확률에 대한 수학적 이론의 기초는 1654년에 파스칼(Pascal)과 페르마의 서신왕래를 통해서 이루어졌다. 두 수학자에 의하여 논의된 예시적인 경우는 ‘같은 정도의 기술을 가진 두 경기자 A와 B에 대하여 A가 승리하기 위하여는 2득점이 더 필요하고 B가 승리하기 위하여는 3득점이 더 필요한 경기에서 판돈을 분배하는 방법을 찾는 것’이었다. 페르마는 네 번 더 경기를 시행하면 경기의 결과가 결정되는 것이 명확하기 때문에 A가 승리하는 경우를 a로 표시하고 B가 승리하는 경우를 b로 표시하여 a와 b를 네 개씩 선택하는 aaaa, aaab……bbba, bbbb의 16개의 가능한 수열을 고려하였다. 여기에서 a가 두 개 이상 포함되는 경우가 11번, b가 세 번 이상 포함되는 경우가 5번이므로 판돈은 A와 B에게 11:5의 비율로 분배되어야 한다고 하였다.

파스칼은 득점의 문제를 ‘산술삼각형(arithmetical triangle)’을 사용해서 해결하였으며, n개에서 동시에 r개를 택하는 조합의 수를 C(n,r)=n!/r!(n-r)!과 같이 정확하게 설명하였다. 파스칼과 페르마는 그 서신왕래에서 세 사람 이상의 경기자가 있는 경우와 두 경기자의 기술이 서로 다른 경우와 같은 다른 문제도 고려하였다. 네덜란드의 호이겐스(Huygens)는 확률에 대한 최초의 공식적 논문을 썼다.

22. 활동사진과 정지사진 : 미분학의 발견(1629∼1680년대)

곡선에 대한 접선을 그리는 문제와 최대값과 최소값을 찾는 문제가 미분법의 발견을 유도하였다. 미분법에 대한 최초의 예견은 페르마가 1629년에 설명한 발상에서 나타난다. 미분법을 예견하는데 중요한 역할을 한 다른 사람은 배로(Barrow)인데, 그의 1669년의 책 ‘광학과 기하학 강의(Lectiones opticae et geometricae)’에 현대적 미분과 매우 근접한 내용이 실려 있다.

그런데 미분학(differential calculus)의 발견에는 뉴턴(Newton)의 공도 있다. 뉴턴은 라이프니츠가 미분학을 고안하기 이전인 1665년에 ‘유율학(fluxional calculus)’을 고안하였는데, 그 논문을 1687년까지 발표하지 않았다. 뉴턴은 라이프니츠에게 보낸 편지에서 자신이 고안한 방법을 설명하였으며, 라이프니츠는 답장에서 자신이 고안한 방법을 설명하였다. 이후에 라이프니츠와 뉴턴의 추종자들 사이에서는 미분학에 대한 우선권과 표절의 논쟁이 크게 일게 되었다.

23. 문을 열고 닫는 것과 같이 : 미적분학의 기본정리(1669∼1690년대)

이제는 미적분학에 대하여 아무 것도 모른다면 제대로 교육을 받은 사람이 아니라는 주장까지 있게 되었다.

24. 강력한 급수 : 테일러 급수(1715년)와 메클로린 급수(1742년)

25. 예이+예이+예이+예이 : 푸리에 급수(1807년)

Yea는 도지(Dodge)가 푸리에 급수에 보낸 찬사이다. 프랑스의 수학자이자 공학자인 푸리에(Fourier)는 1807년에 열전도에 관한 기초적 논문을 과학원에서 발표하는 동안, 유계인 폐구간 위에 정의된 임의의 그래프를 가진 어떠한 함수도 순전히 사인 함수들과 코사인 함수들의 합으로 표현될 수 있다는 주장을 하였다. 더 명확하게 푸리에는 구간 (-π,π) 위에 정의된 임의의 함수가 아무리 변화가 심하더라도, 그 함수는 이 구간 위에서 급수 (수식 1)로 표현될 수 있다고 주장하였다. 이와 같은 급수를 ‘삼각급수(trigonometric series)’라고 부른다.

이 급수를 -π부터 π까지 항별로 적분할 수 있다고 가정하고, 만약에 함수∮(x)를 삼각급수로 표현할 수 있다면 일정한 급수의 계수들이 주어지는데, 이것을 ‘푸리에 계수(Fourier coefficient)’라고 부르게 되었다. 그리고 푸리에는 구하고자 하는 함수의 주기가 무한대인 경우에 푸리에 급수의 극한으로서 ‘푸리에 적분(Fourier integral)’이라고 불리는 가장 뛰어나고 독창적인 발견에 도달하였다.

(수식 1)

26. 기하학의 해방 Ⅰ : 비유클리드 기하학의 발견(1829년)

27. 기하학의 해방 Ⅱ : 비유클리드 기하학의 발견(1829년 ∼ 계속)

평행선 공준이 유클리드의 다른 가정들과 독립적이라고 어렴풋이 알아채고, 비유클리드 기하학을 예감한 최초의 사람은 아마도 독일의 가우스(Gauss)일 것이다. 그리고 헝가리의 볼리아이(Bolyai), 러시아의 로바체프스키(Lobachevsky) 등이 뒤를 이었다. 볼리아이와 로바체프스키의 새로운 기하학은 비록 유클리드 기하학의 어떠한 모순도 발견할 수 없었으나, 세월이 흘러 그 내적 모순이 없다는 것이 벨트라미(Beltrami), 케일리(Cayley), 클라인(Klein) 푸엥카레(Poincare) 등에 의하여 증명되었다. 이와 같은 증명은 상대적인 무모순성의 증명이다. 즉 만약에 유클리드 기하학이 무모순이라면, 볼리아이와 로바체프스키 기하학도 무모순이라는 사실이 밝혀진다.

그러나 비유클리드 기하학의 무모순성의 결과들은 평행선 공준 문제의 해결 이상의 광범위한 영향을 끼쳤다. 그 영향의 하나는 기하학을 전통적 틀에서 해방시킨 것이다. 수학자들에게 있어서 기하학의 공준들은 그것의 물리적인 참이나 거짓과는 관계 없는 단순한 전제들이 되었다. 비유클리드 기하학의 발견은 ‘수학은 절대적 진리’라는 견해에 심각한 타격을 주었다. 직선의 경계 없음과 무한성을 바탕으로 한 두 번째 비유클리드 기하학의 인식은 독일의 수학자 리만(Riemann)에 의하여 성취되었으며, 이를 ‘리만 비유클리드 기하학’으로 부르게 되었다.

28. 대수학의 해방 Ⅰ: 비가환 대수학의 발견(1843년)

대수학의 현대적 관점에 대한 최초의 인식은 영국의 피콕(Peacock)의 연구와 함께 나타났다. 피콕은 스스로 ‘산술적 대수학(arithmetic algebra)’과 ‘상징적 대수학(symbolic algebra)’이라고 부른 두 분야 사이의 차이를 명백히 하였다. 산술적 대수학에서는 어떤 연산들은 그 적용에 제한이 가하여진다. 보기를 들어 뺄셈 a-b에서 a는 b보다 커야만 한다. 반면에 상징적 대수학에서는 그러한 제약이 무시된다. 따라서 상징적 대수학에서 뺄셈은 언제나 적용 가능한 것으로 간주된다는 점에서 산술적 대수학의 뺄셈과 차이가 난다. 산술적 대수학에서 상징적 대수학으로 규칙들의 이와 같은 확장에 대한 정당성을 ‘동치형의 영속화의 원리(principle of the permanence of equivalent forms)’라고 부른다. 피콕의 상징적 대수학은, 그것의 연산들이 산술적 대수학의 연산들과 두 대수학이 공동의 보조를 맞추면서 진행되는 한에 있어서, 다른 모든 경우에 동치형의 영속화의 원리에 의하여 결정되는 보편적인 산술적 대수학이다. 그레고리(Gregory)는 피콕의 연구를 발전시켜서 1840년에 대수학에서 교환법칙과 분배법칙이 뚜렷이 나타나는 논문을 발표하였다.

29. 대수학의 해방 Ⅱ : 비가환대수학의 발견(1843년 ∼ 계속)

해밀턴과 그라스만은 서로 다른 곱셈표를 만듦으로써 서로 다른 대수학을 창조하였으며, 통상적인 대수학에서 성립되는 법칙들과 다른 법칙들을 만족시키는 대수학을 전개함으로써 무수히 많은 대수학적 구조에 대한 연구의 길을 열었다. 통상적 대수학에 대한 공준들을 다양한 방법으로 약화시키거나 삭제함으로써 또는 공준의 일부를 다른 공준으로 대체시킴으로써 나머지 공준들과 모순되지 않게 유지하면서도 방대한 종류의 체계를 연구할 수 있게 된 것이다.

30. 중요한 원자구조 : 군 구조(1830∼1860년)

G1. G의 임의의 원소 a, b, c에 대하여 (a*b)*c=a*(b*c)가 성립한다.

G2. 원소 i가 G에 존재해서, G의 임의의 원소 a에 대하여a*i=a가 성립한다.

G3. G의 각 원소 a에 대하여 원소 (수식 2)가 G에 존재하며, (수식 2)가 성립한다.

군에 대하여는 몇 가지의 기본적 정리가 있다.

(1) a, b, c가 G의 원소이고 a*c=b*c이면 a=b이다

(2) G의 모든 a에 대해서 i*a=a*i이다.

(3) 군은 단 한 개의 단위원을 갖는다.

(4) 군의 각 원소는 유일한 역원을 갖는다. 등등

(수식 2)

31. 뛰어난 요약 : 에를랑겐 목록(1872년)

클라인은 기하학을 새롭게 정의하였다. “기하학은 집합 S의 원소들에 어떤 변환 군 Γ의 변환을 시행했을 때 변하지 않는 S의 성질에 관한 연구이다. 그와 같은 기하학을 기호로 G(S, Γ)와 같이 표기하기로 한다.”그러나 20세기에 들어오면서 클라인의 분류에 적합할 수 없는 기하학이라고 불러야 할 많은 수학적 문제들이 나타났다. 이와 같은 새로운 기하학들은 아인슈타인(Einstein)의 일반성대성이론에 의해서 구체화된 물리적 공간에 대한 현대적 이론에서 그 응용을 찾아온 것이다. 클라인의 원래 목록에 나타나지 않는 기하학을 포함하기 위하여 클라인의 정의를 확장하고 일반화하려는 노력이 부분적 성공을 거두고 있다. 일부 기하학자들은 클라인의 정의를 약간 수정한 정의를 선호한다. “기하학은 집합 S의 원소에 대한 어떤 변환 군 Γ의 변환을 시행했을 때 변하지 않는 S의 성질에 대한 연구이다. 그러나 그 성질은 Γ를 진부분군으로 포함하는 변환 군의 변환에 대해서는 불변이 아니다.”

32. 정당화된 피타고라스 : 해석학의 산술화와 수학의 기초로서의 자연수계(19세기 말)

유럽의 수학자들은 19세기 말에 만약에 자연수체계가 무모순이라면 모든 수학은 무모순이라는 사실을 밝혔다. 실제로 대단히 큰 수학체계는 자연수체계를 꼭지점으로 하여 교묘하게 균형을 잡고 있는 뒤집혀진 거대한 피라미드 같은 형상을 하고 있다는 사실이 밝혀졌다. 해석학 내에서 불합리와 모순이 축적되어감에 따라 수학의 발달은 두 번째의 위기를 경험하게 되었다.

이 두 번째 위기를 치료하기 위한 진정으로 통찰력 있는 제안은 달랑베르(d’Alembert)로부터 나왔으며, 미적분학의 엄밀화를 구체적으로 시도한 최초의 수학자는 라그랑주이었다. 19세기에 들어와서 해석학의 상부구조는 계속 커졌지만, 해석학의 기초는 더욱 어두워졌다. 그러던 차에 대단히 큰 진전이 1821년에 프랑스의 코시(Cauchy)에 의하여 이루어졌다. 그리고 해석학의 기초에 대한 조금 더 깊은 이해의 요구는 1874년에 결정적으로 나타났다. 독일의 수학자 바이어슈트라스(Weierstrass)에 의한 것이다. 바이어슈트라스는 먼저 실수체계를 논리적으로 전개하고, 다음에 극한개념, 연속성, 미분가능성, 수렴, 발산, 적분가능성 등을 실수체계를 이용해서 정의하자는 계획을 주장하였다. 두 부분으로 이루어진 이 뛰어난 계획을 ‘해석학의 산술화(arithmetization of analysis)’로 부르게 되었다. 바이어슈트라스 계획의 성공은 광범위한 영향을 끼쳤다. 먼저, 모든 해석학은 실수체계로부터 유도되기 때문에, 실수체계가 무모순이면 모든 해석학은 무모순이라고 증명되었다. 다음으로 바이어슈트라스 계획의 두 번째 부분은 오늘날 해석학에서 대단히 일반적으로 사용하고 있는 ‘엡실론-델타’과정의 도입으로 달성되었다.

N → I → Q → R → C

여기에서 N은 자연수체계, I는 정수체계, Q는 유리수체계, R은 실수체계, C는 복소수체계를 각각 나타낸다.

33. 더 깊이 파고 내려가서 : 수학의 기초로서의 집합론(19세기 말), 추상공간(1906년), 집합론에 의한 함수 개념의 정제(20세기 초)

정의 1. 두 집합 A와 B에 대하여, A의 각 원소에 단 하나의 B의 원소가 대응하고, B의 원소에 단 하나의 A의 원소가 대응하는 것과 같이 A의 원소와 B의 원소 사이의 짝짓기가 존재할 때 A와 B는 ‘일대일 대응관계(one to one correspondence))’에 있다고 말한다.

정의 2. 두 집합 A와 B에 대해서 일대일 대응관계가 성립할 때 A와 B를 서로 ‘동치(equivalant)’라고 하고 A ∼ B와 같이 표기한다.

정의 3. 서로 동치인 두 집합을 같은 ‘기수(cardinal number)’를 갖는다고 말한다.

정의 4. 공이 아닌 집합의 기수가 기수 1, 2, 3, …… 가운데 하나일 때, 그 집합을 ‘유한집합(finite set)’이라고 하며, 공집합도 아니고 유한집합도 아닌 집합을 ‘무한집합(infinite set)’이라고 한다.

이러한 집합론이 무모순이라면 자연수체계와 많은 수학이 무모순이다. 이와 같이 집합론에 의하여 수학의 기초가 심화되었으며, 많은 수학적 개념이 집합개념과 집합표기에 의하여 상당할 정도로 일반화되고 간명하게 기술되었다.

개별적인 집합이 아니라 연관을 맺고 있는 한쌍의 집합은 ‘함수(function)’와 ‘함수론(function theory)’으로 알려진 정교한 수학분야에 이르게 한다. ‘함수’라는 개념의 역사는 수학의 개념을 확장하고 일반화하려는 수학자들의 경향을 예시한다. ‘함수’는 라이프니츠에 의하여 곡선 위의 점의 좌표들, 곡선의 기울기, 곡선의 곡률반경 등과 같은 양을 표시하기 위하여 도입되었다.

34. 유한을 넘어서 : 초한수(1874∼1895년)

35. 주목할 만한 정의들 : 형식적 공리학(20세기 초)

‘형식적 공리학(formal axiomatics)’은 20세기 초에 개발되었다. 형시적 공리학은 일정한 양식을 가진다.

(1) 논설은 원소들, 웡소 사이의 관계들, 원소들 위에서 시행되는 연산들에 대한 전문적 용어들을 포함한다. 이 전문적 용어들은 정의되지 않은 채로 임의로 선택된 것이며, 이것을 그 논설의 ‘기본적 용어’라고 한다.

(2) 논설은 기본적 용어들에 대한 집합을 포함한다. 이러한 문장들은 증명되지 않은 채로 임의로 선택된 것이며, 그 논설의 ‘공준’ 또는 ‘공리’ P라고 부른다. (1)과 (2) 부분을 합하여 그 논설의 ‘기초’로 언급된다.

(3) 논설의 다른 모든 전문적 용어들은 이미 도입된 용어들을 사용하여 정의된다.

(4) 논설의 다른 문장들은 이미 받아들여졌거나 증명된 문장들로부터 논리적으로 유도된다. 이렇게 유도된 문장을 ‘정리’ T라고 한다.

(5) 논설의 각 정리 T는 공준 P에 의하여 함의된다는 사실을 주장하는 어떤 대응하는 문장이 존재한다.

(6) 공준들 P는 정리들 T를 함의한다.

이러한 양식에 따라 전개된 논설을 일부 수학자들은 ‘순수수학분야(branch of pure mathematics)’라고 불러왔다. 순수수학의 한 분야를 추상적으로 전개하는 것은 형식적 공리학이며, 반면에 주어진 응용수학의 한 분야를 구체적으로 전개하는 것은 실질적 공리학이다. 전자는 기본적 용어들에 대한 상술에 앞서서 공준들을 생각하고, 후자는 공준들에 앞서서 기본적 용어들을 해석하는 대상들을 생각한다. 그리고 전자에 있어서 하나의 공준은 단순히 어떠한 정의되지 않은 기본적 용어들에 대한 기초적 가정이고, 후자에 있어서 하나의 공준은 초기에 자명하거나 당연한 것으로 받아들여진 기초적 대상들의 성질을 표현한다.

형식적 공리학은 수학에 대한 가능성 있는 정의를 얻게 함으로써 수학이 무엇인가를 정확하게 인식하게 하였다.

36. 명확하게 만드는 보기들 : 수학의 정의(20세기 초)

형식적 공리학에 의하여 짧은 논설을 전개하고, 그 다음에 그 논설의 기본적 용어들에 대한 적절한 해석을 통해서 그 논설에 대한 세 가지의 모형을 얻는다. 그리고 그에 따라서 가계, 기하학, 산술로 예시된 세 가지의 모형 또는 응용수학분야를 설명한다.

37. 셋째 수준 : 초수학(1899∼1920년)

공리적 연구에는 세 가지의 서로 다른 수준이 있다. 첫째 수준으로, 특별한 학문분야에 대한 구체적 공리적 전개가 있다. 이와 같은 전개는 실질적 공리학의 보기이다. 둘째 수준으로, 위와 같은 특별한 분야를 모형으로 갖는 추상적 공준적 전개가 있다. 이와 같은 전개는 형식적 공리학의 보기이다. 셋째 수준으로, 형식적이고 추상적인 공준적 전개가 소유하고 있는 성질을 연구하는 이론이 있다. 이 가운데에서 가장 높은 셋째 수준을 힐베르트(Hilbert)는 ‘초수학(metamathematics)’이라고 명명하였으며, 1899년에 출판한 ‘기하학의 기초(Grundlagen der Geometrie)’에서 비롯하여, 1920년에는 조직된 연구영역이 되게 하였다. 공준체계의 몇 가지의 성질은 이렇다.

(1) 동치성

두 공준체계 P(1)과 P(2)에 대해서 각 체계가 다른 체계를 함의하면 그 두체계를 ‘동치’라고 말한다. 즉 각 체계의 기본적 용어들은 다른 체계의 기본적 용어들을 사용하여 정의될 수 있고, 각 체게의 공준들이 다른 체계의 공준들로부터 유도될 수 있으면, 그 두 체계를 동치라고 한다. 두 공준체계가 동치이면 그것에 의하여 수반되는 두 개의 추상적 연구는 물론 같고, 그것은 같은 것을 다른 방법으로 말하는 것에 불과하다.

(2) 무모순성

어떠한 공준 집합에 의하여 모순되는 명제가 함의되지 않으면, 그 공준집합을 무모순이라고 부른다. 이 성질을 만족하지 않으면 그 공준은 근본적으로 가치가 없다.

(3) 독립성

어떠한 공준 집합의 한 공준이 그 집합의 다른 공준들로부터 논리적으로 유도되지 않는다면 그 공준을 ‘독립적’이라고 말한다.

(4) 절대성

공준 집합 P가 그에 대한 임의의 해석이 서로 동형이면 ‘절대적’이라고 한다. 이러한 절대성은 통상 그 공준 집합에 대한 임의의 해석은 어떠한 주어진 해석과 동형임을 보임으로써 증명된다. 어느 공준 체계가 절대성을 가지는 것은 장점이 있는 반면에 단점도 있다.

38. 산학의 한분야로서의 수학 : 괴델의 불완전성의 정리(1931년)

(1) 수학에 있어서 모든 중요한 분야들은 완전히 공리화할 수 있다는 믿음을 뒤집었다.

(2) 힐베르트가 계획하였던 방법에 따라서 수학의 내적 무모순성을 증명하려는 모든 희망을 좌절시켰다.

(3) 널리 보급되었던 수리 철학에 대한, 아직 완성되고 있지 않은, 재검토를 이끌었다.

(4) 많은 연구분야를 제시하고 시작하게 만든, 새롭고 강력하며 풍부한 분석기법을 기초적 연구에 도입시켰다.

무모순인 어떠한 공준집합에 대하여 기본적 용어들을 확장하지 않고 주어진 공준들과 독립적이고 무모순인 또는 다른 공준을 그 공준집합에 추가하는 것이 불가능하면 그 공준집합을 ‘완전하다(complete)’라고 한다. 이러한 결과로 자연수계에 대한 페아노(Peano) 공준집합은 완전하다고 생각되었으며, 만약에 완전하지 않으면 하나 또는 그 이상의 또 다른 공준들을 추가함으로써 완전하게 만들 수 있을 것이라고 확신하였었다. 그러나 이러한 믿음은 괴델의 논문에서 나타난 정리에 의하여 의하여 산산이 부서졌다.

(1) 첫째 정리 : 자연수계를 포함하는 무모순인 임의의 형식적 체계 F에 대하여, F안에 결정할 수 없는 명제들이 존재한다. 즉 F에는 언제나 그 안에서 S나 또는 ∼S를 증명할 수 없는 명제 S가 존재한다. 이에 따라서 자연수체계에 대한 임의의 공준집합은, 만약에 그것이 무모순이라면 완전하지 않다.

(2) 둘째 정리 : 자연수체계를 포함하는 임의의 무모순인 형식적 체계 F에 대하여 F의 무모순성을 F안에서 증명할 수 없다. 이에 따라서 F에 있는 결정할 수 없는 문제 가운데 하나는 F의 무모순성에 대한 증명이 있게 되었다.

이로써 수학의 어떠한 중요한 분야에 대한 완전한 공리적 전개는 달성될 수 업으며, 수학의 어떠한 중요한 부분이 내적 모순으로부터 자유로울 수 있는 진정으로 완전한 보장은 있을 수 없다는 사실을 괴델의 두 정리는 밝혀 주었다.

39. 실현된 꿈 : 현대의 전자계산기(1944년), 4색 문제의 해결(1976년)

배비지의 해석기관의 직접적 후예 가운데의 하나는 미 해군성과의 계약 하에 하버드 대학교와 IBM의 공동기획으로 제작된 Mark Ⅰ으로 알려진 ASCC(Automatic Sequence Controlled Calculator)이며, 이 기계는 1944년에 일반인에게 공개되었다. ASCC의 개량모델인 MarkⅡ는 1948년부터 해군 실험장에서 사용하기 위하여 제작되었다. ENIAC(Electronic Numerical Iinterator and C0mputer)은 육군 탄도학 연구소와의 계약으로 펜실바니아 대학교에서 1945년에 제작되었다. 1951년에 생산된 UNIVAC(Universal Automatic Computer)은 최초로 대량생산된 컴퓨터가 되었다. 이후로 몇 년마다 새로운 세대의 계산기들이 속도와 신빙성 및 기억력에 있어서 전 세대의 계산기를 능가하고 있다. 초고속 계산기들은 대부분 군사적 문제를 해결하기 위하여 설계되었지만, 오늘날의 계산기들은 은행, 기업, 정부, 공학 등 많은 목적으로 설계되고 있다. 배비지의 꿈은 확실하게 실현되었다. 그러나 π의 정구성과 비정규성에 관한 문제는 계산기에 의하여 결코 풀릴 수 없다. 여기에서 우리는 계산만에 의하여는 풀릴 수 없고 심오한 수학적 재능이 요구되는 이론적 문제의 한 보기를 갖게 된다. 이와 같은 문제들의 존재는 만연된 컴퓨터 증상에 대한 부분적 해독제를 제공하여 줄 것이다.

계산기에 의하여 성취된 가장 감동적인 수학적 승리라고 할만한 것은 1976년에 있었던 ‘4색 문제(four-color problem)’의 해결이다. 1850년경에 영국의 거스리(Guthrie)는 영국의 지도에 있는 지역들을 구분하는 데에 네 가지 색이면 충분하다는 사실을 지적하였다. 그 후에 많은 수학자들이 4색 문제에 대하여 연구하였다. 1976년에 아펠(Appel)과 하켄(Haken)은 계산기를 사용한 어마 어마하게 복잡한 분석을 통하여 그 가설을 증명하였다. 이 증명은 놀라운 성과이기는 하지만, 계산기의 분석에 근거한 해법은 세련된 수학과는 상당한 거리가 있다. 그리고 이것은 수학의 일부 복잡한 문제들은 계산기를 통하여 접근하여야 한다는 생각을 갖게 하였으며, 수학에 대한 인간의 순수한 해법이 가능한 한계를 명확하게 해 줄 수 있을 것이다.

40. 변명과 유감

부득이 기본강의에서 제외되기는 하였으나, 명백하게 ‘수학의 위대한 순간들’이라고 꼽을 수 있는 사건들이 있다.

(1) 플림프턴 322(기원 전 1900년∼1600년)

컬럼비아 대학교에 있는 플림프턴(Plimpton)의 고고학 소장품 가운데에서 품목번호가 322인 쐐기문자의 점토판은 기원 전 1900년에서 1600년 사이의 고대 바빌로니아의 서체로 씌어 있다. 이 수표는 피타고라스 관계, 시컨트에 대한 수표를 만드는 방법 등에 대한 지식을 당시에 이미 알고 있었음을 보여 준다.

(2) 제논의 역설(기원 전 약 450년)

크기를 무한하게 나눌 수 있다고 가정하여야 하는가? 또는 크기는 매우 많은 수의 더 이상 나눌 수 없는 극소의 부분으로 이루어져 있다고 가정하여야 하는가? 제논에 의하여 교묘하게 만들어진 이러한 역설들은 수학 특히 미적분학의 발달에 현저한 영향을 끼쳤다.

(3) 아리스토텔레스에 의한 연역적 논리의 체계화(기원 전 약 340년)

어떠한 수학적 체계의 정리들은 공준이라고 불리는 문장들의 초기 집합과, 가정들로부터 결과를 얻기 위한 과정의 논리 또는 규칙들이라고 불리는 또 다른 문장들의 초기 집합 사이의 상호작용의 결과로 나타난다. 이러한 논리에 대하여 최초로 체계적 연구를 한 사람은 아리스토텔레스이다.

(4) 아폴로니오스의 원뿔 곡선(기원 전 약 250년)

고대 그리스의 기하학적 기법을 아폴로니오스가 쓴 광범위한 ‘원뿔 곡선론’보다 더 훌륭하게 보여준 책은 없었다. 이 작품을 통해서 아폴로니오스는 타원, 포물선, 쌍곡선 등의 이름을 제시하였다. 그리고 직교좌표계에서 이와 같은 곡선들과 기하학적으로 동치인 꼴로부터 유도된 곡선들의 성질을 대단히 많이 증명하였다.

(5) 알콰리즈미의 공헌(약 820년)

(6) 레기오몬타누스의 삼각법(약 1464년)

(7) 스테빈과 소수(1585년)

소수의 발명이 단 한 사람에 의하여 이루어진 것은 아니지만, 소수에 대한 최초의 유능한 해설자로 스테빈을 꼽을 수 있으며, 소수에 대한 그의 연구결과는 1595년에 출판되었다.

(8) 해리엇, 영국 대수학파의 창시자(1631년)

해리엇은 영국 대수학파의 창시자로 인정되고 있다. 대수학 분야에서의 그의 뛰어난 저서인 ‘해석술 연습’은 주로 방정식론을 다루고 있으며, 이것은 그 이후의 방정식론에 대한 책들의 본보기가 되었다.

(9) 데자르그와 사영기하학의 탄생(1639년)

(10) 학술원, 학회, 정기간행물(1662년, 1666년)

(11) 베르누이와 변분학(1696년)

(12) 퐁슬레와 사영기하학의 황금시대(1822년)

퐁슬레는 1822년에 ‘도형의 사영적 성질에 대하여’라는 책을 출판하였다. 이 책은 사영기하학의 연구에 큰 추진력을 제공하였으며, ‘사영기하학의 황금시대’를 시작하게 하였다.

(13) 쌍대성 원리(1826년)

평면 사영기학학의 정리들을 짝지어 나누는 쌍대성 원리는 1826년에 제르곤에 의하여 최초로 명확하게 설명되었다. 어떠한 방법에 의하여 쌍대성 원리가 증명되면, 쌍대짝을 이루는 두 정리 가운데에서 한 정리의 증명으로 나머지 정리의 증명이 자동적으로 이루어진다. 이후로 삼각방정식의 연구, 구면 삼각형의 기하학, 공간사영기하학, 불 대수, 명제계산, 반순서 집합의 이론 등과 같은 수학의 다른 분야에서도 쌍대성 원리가 존재한다는 사실이 밝혀졌다.

(14) 초월수(1851년, 1873년, 1882년)

대수학의 기본정리, e와 π, 유클리드의 도구를 이용한 일반각의 삼등분, 정육면체의 배적, 원의 구적 등에서 초월수가 나타난다는 것이 1851년 리우빌, 1873년 에르미트, 1882년 린데만 등에 의하여 증명되었다.

(15) 힐베르트의 문제들(1900년)

(16) 르베그 적분(1902년)

르베그는 1904년에 출판된 책을 통하여 함수의 정의역이 아닌 치역을 분할함으로써 리만의 개념에 의하여 적분이 불가능한 많은 함수들을 적분이 가능하게 하였으며, 그 결과로 적분이 가능한 함수들의 집합을 대단히 확대시켰다.

(17) 수리 논리학(1910∼1913년)

현대적 논리학을 엄밀하게 다루기 위하여는 상징적 언어가 필요해진다. 이러한 기호들의 출현 때문에 이 분야를 ‘기호논리학 (symbolic logic)’ 또는 ‘수리논리학(mathematical logic)’이라고 부른다. 라이프니츠로부터 비롯된 수리논리학은 화이트헤드와 러셀의 기념비적인 ‘수학적 원리’에 의하여 중요하고 영향력 있는 업적이 이루어졌다.

(18) 다가 논리학(1921년)

고전적 논리학과 상징적 논리학에서 각 명제는 참 또는 거짓이라는 두 가지의 진리값 가운데에서 어느 하나를 가정하기 때문에 이러한 논리학을 ‘이가 논리학(two-valued logic)’이라고 부른다. 그런데 1921년에 루카시에비치는 삼가 논리학을 고려하였으며, 이후에 포스트는 m가 논리학을 생각하였고, 라이헨바흐에 의하여 무한가 논리학으로 확장되었다.

(19) 부르바키(1939년)

프랑스의 부르바키는 수학자들의 비공식적 집단이 사용하는 공동의 필명이다. 부르바키는 가장 일반적이고 기초적인 원리들에서 시작하여 다양적이고 전문적인 분야로 진행하는 수학에 관한 포괄적인 책들의 저자로 되어 있다.

(20) 비표준 해석학(1960년)