20091020 네이버 오늘의 과학 - 삼대 작도 불능 문제

예고한대로 이번 수학산책에서는 3대 작도 문제가 왜 불가능한지 설명하겠다. 전에도 소개한바 있지만 3대 작도 문제란, 1) 주어진 정육면체보다 부피가 두 배인 정육면체, 2) 임의의 각을 삼등분한 각, 3) 주어진 원과 넓이가 같은 정사각형을 눈금 없는 자와 컴퍼스 만으로 작도할 수 있느냐는 문제이다.   수학에서 ‘증명’과 ‘불가능성’의 의미 본격적으로 3대 작도 문제를 설명하기에 앞서 ‘불가능하다’는 것의 의미를 짚어보자. 예를 들어 소수가 무한 개라는 사실은 증명한 바 있다. 다시 말하면 가장 큰 소수를 찾는 일은 ‘불가능’하다. 가장 큰 소수도 못 찾는 걸 보니 수학도 한계가 있다느니, 아직까지 못 찾은 것뿐이지 앞으로 어떤 천재가 나와 찾아낼 거라느니, 고정관념에 빠져 못 찾는 것뿐이라는 식의 주장으로 연결하는 것은 ‘증명’이라는 것을 전혀 이해하지 못한 말이다. 더 쉬운 예를 들어 보자. 홀수 두 개를 더해서 홀수를 만드는 것은 불가능하다. 누구도 이런 불가능을 가능으로 바꾸지 못한다. 이런 일이 불가능하다고 해서 인간의 한계인 것은 아니며, 수 체계의 한계도 아니다. 실수나 복소수보다 획기적인 `울트라 수체계’ 같은 걸 창안한다고 해도 가능해지지 않는다는 뜻이다. 수(數)와 세상의 본질이 원래 그런 것일 뿐이다! 수학이 다른 학문과 구별되는 가장 큰 특징은 ‘증명’이다. 수학에서 어떤 명제를 오류 없이 증명한 순간 그 명제는 시대를 가리지 않는 영원한 진리가 된다. 명제를 일반화하거나, 다른 방법으로 표현 혹은 증명할 수는 있어도 그 명제의 참, 거짓 자체는 바뀌지 않는다. 증명된 지 2500년이 넘었지만 소수가 무한하다는 정리는 여전히 참이지 않는가? 마찬가지로 3대 작도 문제가 불가능하다는 것은 이미 ‘증명 끝’ 선언이 난 것으로, 증명에 오류가 없다는 것은 많은 수학자들이 확인한 바다. 혹시나 오해를 할까 싶어서 덧붙이는데, 삼대 작도 문제가 ‘불가능’하다는 것은, 삼등분각이 존재하지 않는다거나, 부피가 두 배인 정육면체가 존재하지 않는다거나, 원과 넓이가 같은 정사각형이 존재하지 않는다는 뜻이 아니다. 눈금 없는 자와 컴퍼스 이외의 도구를 써도 좋다면 몰라도, 자와 컴퍼스만 이용한 기본 작도만으로는 안 된다는 뜻이다. 더 보면 알겠지만, 기본 작도는 사칙연산과 제곱근 이상을 작도할 수 없다는 본질적 한계가 있음을 ‘증명’할 수 있기 때문이다.   방첼, 작도수를 완전히 규명하다 작도 이야기 1회에서 ‘유리수로부터 사칙연산 및 제곱근을 반복으로 취해서 얻는 수’는 모두 작도수라고 얘기했다. 역에 해당하는 사실인 ‘작도수는 유리수로부터 사칙연산 및 제곱근을 반복으로 취해서 얻어지는 것뿐이다’는 것도 성립하는데, 이를 증명한 것은 방법서설이 나온 지 딱 200년 뒤인 1837년 프랑스 수학자 방첼(Pierre Wantzel, 1814-1848)이다. 구구절절 증명을 반복할 수도 있지만, 산책하러 왔는데 암벽을 타서는 안 될 것 같다. 그래서 엄밀함은 다소 포기하더라도 핵심만 설명하려고 한다. 비록 문자가 다소 눈을 어지럽히지만 흐름만 이해하면 충분하니, 느긋하게 마음먹고 방정식으로 둘러싸인 경치를 즐기기 바란다.   눈금 없는 자로 작도한다는 것은?

눈금 없는 자를 쓴다는 것은 이미 작도한 두 점 (x1,y1), (x2, y2)  를 잇는 직선의 방정식     을 생각하는 것과 같다. 즉, 1차식     꼴로 쓸 수 있는데, 계수 a, b, c는 작도수 x1, x2, y1, y2의 사칙연산으로 이루어져 있으므로 작도수이다.

 

 

컴퍼스로 작도한다는 것은?

컴퍼스로 그린 원의 방정식은 어떨까? 이미 작도한 점 (p, q)를 중심으로 하고, 작도한 점 (s, t)를 지나는 원 위의 점 (x, y)는 방정식   을 만족한다. 따라서 2차식     꼴인데, 작도수 p, q, s, t의 사칙연산으로 이루어져 있으므로 u, v, w 역시 작도수다.

  

 

자와 컴퍼스로 작도한다는 것은? 작도란 직선 두 개의 교점, 혹은 직선과 원의 교점, 혹은 원 두 개의 교점을 구하는 과정의 반복이다. 1. 직선 두 개의 교점은, 작도수를 계수로 갖는 1차 연립 방정식을 풀어서 얻는다.     2. 원과 직선의 교점은, 작도수를 계수로 갖는 1차와 2차의 연립 방정식을 풀어 얻는다.   3. 원 두 개의 교점은, 작도수를 계수로 갖는 2차 연립 방정식을 풀어 얻는다.     예를 들어 2번의 경우 b가 0이 아니면, 둘째 식에서 y=-(ax+c)/b를 첫째 식에 대입해서 다음 식을 얻는다.   이 식을 정리하면 작도수 p, q, r을 계수로 갖는 2차식 px2+qx+r=0 의 근을 구하는 것에 해당한다. 따라서 x의 값은 다음과 같다.     따라서, x는 작도수에 사칙연산 및 제곱근만을 취해 얻을 수 있다. 나머지 경우도 각각 실제로 연립 방정식을 풀어보면, (할 수 있는 사람들은 각자 해 볼 것) 계수들의 사칙연산과 제곱근만을 써서 나타낼 수 있음을 확인할 수 있다! 이로부터 다음 결론을 얻어 데카르트의 예상을 증명할 수 있다.     ‘작도수는 유리수로부터 사칙연산과 제곱근만을 반복적으로 적용해 얻는 수’     ‘눈금없는 자와 컴퍼스’를 여의봉과 근두운 다루듯이 잘 다루는 손오공이라 할지라도 결국은 1차식과 2차식을 연립하는 것뿐이니, ‘사칙연산과 제곱근의 반복’이라는 부처님 손바닥 안에서 놀 수밖에 없다는 얘기다.   작도수는 유리수 계수 1, 2, 4, 8, 16,… 차 기약 다항식의 근이어야 한다 유리수를 계수로 하는 2변수 1차식, 2차식을 반복 연립하면, 유리계수 1차식, 2차식, 4차식, 8차식, 16차식, …으로 바뀐다. 따라서 작도수는 유리수 계수 1, 2, 4, 8, 16, …차 방정식의 근이어야만 하는데, 정확한 증명은 체론(field theory)의 지식이 필요하다. 가우스가 정p각형을 작도할 때, 기약 원분 다항식의 차수 p-1이 2의 거듭제곱인 경우만 생각한 이유를 이제는 알 수 있을 것이다. 또한, 위 사실로부터 유리수를 계수로 갖는 3차 기약 다항식의 근은 작도할 수 없다는 사실도 덤으로 얻는다. 그런 수는 제곱근과 사칙 연산만을 이용해서는 구할 수 없고, 반드시 세제곱근이 필요하다는 얘기다.   삼대작도문제 (1) 주어진 정육면체의 두 배의 부피를 갖는 정육면체의 작도는 불가능하다 주어진 정육면체의 모서리의 길이가 a라면, 부피가 두 배인 정육면체의 모서리의 길이는 3√2×a 다. 따라서 3√2를 작도해야, 원하는 작도를 할 수 있다. 그런데 이 수는 3차식 x3-2=0의 근이다. 이 3차식은 유리수 계수로 인수분해가 안 되므로, 1차식 및 2차식만 가지고 풀 수 없다. 기호가 말해주듯 세제곱근이 반드시 필요한 수라는 얘기다. 따라서 3√2는 작도수가 아니므로, 원하는 작도는 불가능함을 알 수 있다.

 

 

 

삼대작도문제 (2) 주어진 각의 삼등분각을 작도하는 일은 불가능하다 주어진 각을 자와 컴퍼스로 항상 이등분할 수 있다는 것은 이미 알 것이다. 삼등분각은 어떨까? 예를 들어 A=90°를 삼등분하라는 것은 30°를 작도할 수 있느냐는 문제다. 따라서 cos(30°)가 작도수냐는 것과 동일한 문제다. 그런데 cos(30°)= √3/2은 작도수임을 알고 있다. 따라서 90°는 삼등분할 수 있다는 결론이 나온다. 90°만 삼등분할 수 있을까? 90°를 계속 이등분해서 얻는 각인 45°, 22.5°, 11.25°,…등도 모두 삼등분할 수 있다! 이미 작도한 30°를 이등분해서 15°, 7.5°, 3.75°, …등을 얻을 수 있기 때문이다. 따라서 삼등분할 수 있는 각은 무한히 많다.    그렇다면 60°는 삼등분할 수 있을까? 그러려면 cos(20°)가 작도수인지 알아야 한다. 일반적으로 x=cos(A/3)는 3차 방정식 4x3-3x-cos(A)=0의 근인데, 예를 들어 삼각 함수의 덧셈 정리를 쓰면 금세 증명할 수 있다. 따라서 cos(20°)는 3차식 8x3-6x-1=0의 근이다. 이 3차식은 유리계수 1차식과 2차식의 곱으로 인수분해할 수 없으므로, 60°는 ‘자와 컴퍼스만으로는’ 삼등분할 수 없다! 즉 20°와 40°는 작도할 수 없는 각이며, 따라서 정9각형도 작도할 수 없다.

 

 

3대 작도 문제 중 특히 ‘임의의 각을 삼등분할 수 있다’는 주장을 하는 사람이 특히 많은데, 이런 사람들을 ‘삼등분가’라고 부른다. 삼등분가들은 자신의 방법으로는 되는데, 제도권 수학자들이 이해를 거부한다는 억지주장을 반복하는 경향이 있다. 삼등분이 안 되는 이유를 이해하려고 하지도 않음은 물론이고, 애써 오류를 찾아줘도 인정하지 않기 일쑤여서, 결국 전 세계의 대부분의 수학계에서는 삼등분가의 주장을 담은 논문은 일절 읽지도 않기로 결정하였다.   위의 설명을 찬찬히 들여다 보면 알겠지만 임의의 각을 삼등분할 수 있다는 주장은, 세제곱근을 쓰지 않고도 사칙연산과 제곱근만으로 3차식을 풀 수 있다고 주장하는 격이다. 심지어 임의의 각을 임의의 등분할 수 있다고 주장하는 이들도 있는데, 모든 다항식을 사칙연산과 제곱근만으로 풀 수 있다는 주장이 돼 버리니, 검토조차 하지 않는 것은 당연하다 하겠다. 따라서 혹여 이 글에 댓글로 자와 컴퍼스만으로 임의의 각을 삼등분하였다는 주장을 하더라도 가볍게 무시하도록 하겠다.   오해를 살 수 있게 적은 관계로 사과를 드리며, 글을 수정하며 보충한다. 그런데 임의의 각은 왜 사등분할 수 있는 것일까? x = cos(A/4)는 4차식  8x4-8x2+(1-cosA )= 0의 근이다. 일반적인 4차식은 사칙연산과 제곱근만으로 풀 수 없지만, 이 4차식만은 다르다.     이므로, 사칙연산과 제곱근만으로 풀 수 있다!   삼대작도문제 (3) 주어진 원과 넓이가 같은 정사각형의 작도는 불가능하다 반지름이 r인 원과 넓이가 같은 정사각형의 한 변의 길이는 r√π이다. 따라서 √π를 작도할 수 있어야 원하는 작도가 가능하다. 방첼은 데카르트의 예상을 증명하면서 삼대 작도 문제 중 두 개는 해결했지만, √π가 작도수가 아니라는 것은 증명하지 못했다. √π를 근으로 갖는 유리계수 방정식을 구하지 못했기 때문인데, 사실은 그러한 유리계수 방정식이 아예 없다는 것을 (즉, √π가 초월수라는 것을) 45년 뒤 린데만이 증명함으로써, 비로소 3대 작도 문제는 모두 불가능하다는 결론이 났다.

 

 

 

 

작도수에 대한 오해 마치기 전에, 오해가 있을 수 있어 적어둔다. 작도수는 차수가 2의 거듭제곱인 유리 계수 다항식의 근이어야 한다고 했는데, 역은 성립하지 않는다. 4차식을 풀려면 네제곱근이 필요함은 너끈히 짐작할 수 있다. 그런데 네제곱근은 제곱근의 반복이므로, 4차식의 근은 작도할 수 있다고 착각하는 일이 허다하다. 하지만 4차식을 풀 때도 ‘세제곱근’이 필요하다! 예를 들어 4차 방정식 x4-x-1=0의 근은 작도수가 아닌데, 이 방정식은 사칙연산과 제곱근의 반복으로 풀 수 없고, 세제곱근이 필요하다. 4차식의 근의 공식이나 –이 주제도 언젠가는 다루고 싶다- 갈루아 이론 등을 써서 확인할 수 있지만, 아쉬움은 이쯤에서 달래기로 하자. 다음 회에서는 작도할 수 없는 정다각형에 대해 알아보며, 길다면 긴 작도 이야기를 우선 맺음하기로 한다.

 

 

 

글 정경훈 / 서울대 기초교육원 강의교수