재미있는 수학의 패러독스들

알쏭달쏭 직관에 도전한다

    녁을 향해 쏘아진 화살을 상상해보자. 화살은 과녁까지의 거리의 반을 지나고, 남은 거리의 반을 지나고, 또 남은 거리의 반을 지나고... 과녁을 향해 날아간다. 어떤 순간에도 화살과 과녁의 거리가 존재하기 때문에 화살은 결코 과녁에 도달할 수 없지 않을까? 선분을 긋는데 처음에는 10cm를, 연이어 5cm의 선분을, 다음에는 2.5cm를… 이어나가면 이 선분의 길이는 과연 얼마가 되며 그 끝을 알 수 있을까. 이 물음들은 ‘발이 빠른 아킬레스는 결코 거북을 따라잡을 수 없다’는 우리에게 너무나 친숙한 패러독스와 일맥상통한다. 그리스의 유명한 철학자 제논은 공간과 시간에 대한 통념과 관련해 다음의 네가지 패러독스 시리즈를 제기했다.

1.반분의 패러독스

    움직임이란 존재할 수 없다. 왜냐하면 도착점에 도달하려면 중간지점을 통과 해야 되고 중간지점에 도달하기 전에 4분의 1지점을 반드시 통과해야 하고 그 4분의 1지점을 통과하기 전에는 8분의 1지점을 통과해야하는데 그렇다면 결코 출발할 수가 없다.

2.아킬레스의 패러독스

     가장 발이 빠르다고 알려진 아킬레스도 그보다 먼저 출발한 거북이는 결코 따라잡을 수 없다. 아킬레스가 거북이의 출발점에 도착했을 때는 이미 거북이는 앞으로 나아갔고 아킬레스가 다시 따라잡을 경우에도 거북이는 이미 그 지점을 지나쳐버리기 때문.

3.화살의 패러독스

    시간은 최소의 단위인 ‘순간’으로 구성돼 있다. 쏘아진 화살은 움직이든가, 아 니면 멈춰있든가 둘 중의 하나다. 만일 화살이 움직인다면 화살은 어느 순간의 시작점인 동시에 어느 순간의 끝점의 위치에 놓여져야 한다. 이것은 ‘순간’을 분할할 수 있다는 얘기가 돼 모순이 되므로 화살은 정지해 있어야만 된다.

4.경기장의 패러독스

    그림과 같이 경기장에 세 열이 있다. A열은 멈춰있고 B와 C열은 같은 속 도로 반대방향으로 움직여서 A, B, C 세열이 정렬됐다. 이때 B열의 구성원들은, A열의 성원은 한명씩 C열의 성원은 두명씩 통과하게 된다. B와 C열이 A위치에 도달하는데는 같은 시간이 걸 리므로 시간의 반은 시간의 두배와 같다.

궤변을 극복한 것은 ‘무한’

    제논의 패러독스들은 시간과 공간은 무한히 나눌 수 있고 움직임은 불연속의 조합이라고 믿었던 당시의 철학자들에게 파문을 던졌다. 제논의 패러독스에서 완전히 해방되는 데는 2천년이 넘게 걸렸다. 아리스토텔레스가 ‘궤변’으로 낙인찍어버린 후로 어느 정도 사장됐던 제논의 패러독스는 칸토르의 무한론으로 극복되기에 이른다.

    19세기말‘수렴’의 개념이 생기기 전에는 이 0이라는 것은 이상한 궤변이었을 뿐이었다. 칸토르의 무한론에 따르면 자연수와 유리수의 무한한 양은 같은 반면 자연수의 ‘무한’과 실수의 ‘무한’의 양은 다르다. 즉, 실수가 자연수보다 훨씬 큰 ‘무한’을 나타낸다. 결과적으로 시간을 실수의 ‘무한’으로 등분한다는 것과 자연수의 ‘무한’으로 나누는 것은 다르다. 여기에 등장한 ‘수렴’의 개념은 양수의 무한합은 무한이라는 예상을 깨고 이라는 값을 얻어냈다. 결국 제논의 패러독스는 ‘무한’이라는 새로운 개념으로 미궁을 빠져나올 수가 있게 된 것이다.

    패러독스가 수학사에 한 획을 그으며 수학의 기초를 흔들고 새로운 개념을 만들어낸 것은 이 경우가 처음은 아니다(러셀의 패러독스나 괴델의 불완정성의 정리들이 대표적 예). 또한 여타의 과학분야에서도 상식이 깨지면서 과학의 발전을 가져온 것을 우리는 잘 알고 있다.

    자! 워밍업으로 여러가지 재미있는 퍼즐들을 풀어보자. 패러독스들을 살펴보려면 굳어있는 머리를 풀어줄 준비운동이 필요하다. 학교에서 배운 수학실력을 마음껏 발휘해보자.

1. n=n+1의 증명

    다음은 모든 자연수 n에 대해 (n+1)2 = n2 +2n+1라는 사실에서부터 이끌어낸 증명이다.

2. 10개 문장의 패러독스

    다음 열 개의 문장이 주어져 있다. 과연 이들 중 참인 것은 몇 개나 될까?

1. 이 문장들 중 하나만이 거짓이고 나머지는 참이다.

2. 이 문장들 중 두 문장이 거짓이고 나머지는 참이다.

3. 이 문장들 중 세 문장이 거짓이고 나머지는 참이다.

4. 이 문장들 중 네 문장이 거짓이고 나머지는 참이다.

5. 이 문장들 중 다섯 문장이 거짓이고 나머지는 참이다.

6. 이 문장들 중 여섯 문장이 거짓이고 나머지는 참이다.

7. 이 문장들 중 일곱 문장이 거짓이고 나머지는 참이다.

8. 이 문장들 중 여덟 문장이 거짓이고 나머지는 참이다.

9. 이 문장들 중 아홉 문장이 거짓이고 나머지는 참이다.

10. 이 문장들 모두 거짓이다.

힌트

    1번이 참이라고 가정해보자. 그러면 2번부터 10번까지 중 참인 문장이 8개가 된다. 2번과 3번이 동시에 참인 경우는? 결코 있을 수 없다. 왜냐하면 두 문장이 거짓인 것도 참이고 세문장이 거짓인 것도 함께 참이 될 수 없기 때문이다. 그럼 2번이 참이라고 가정해보자. 마찬가지로 나머지 아홉 문장 중 여덟 문장이 참이다. 이 문제에서는 결코 두 개 이상의 문장이 동시에 참이 될 수는 없다. 그래서 또 앞뒤가 맞지 않게 되는데… 그렇다면 모든 문장들이 거짓? 이번에는 10번이 참이 돼 모순이 생긴다. 고로 적어도 한 문장은 참이고 10번은 거짓일 수 밖에 없다. 과연 참인 문장은?

    위의 힌트에 섣부른 일반화에 대한 함정이 있다. 1번, 2번, …, 8번까지는 각 경우가 참일때 참인 문장이 적어도 두 개 이상이 돼 모순이 생긴다. 힌트에서처럼 1번부터 8번까지는 모두 거짓일 수밖에 없다. 9번의 경우는 달라서 9번이 참이면 나머지가 모두 거짓이 되고 논리는 성립된다. 10번이 참이라면 모든 문장이 거짓이 되야 하므로 모순이다. 결과적으로 참인 문장은 9번 하나다. 만약 천 개의 문장이 이 문제처럼 구성돼 있다면 9백99번째 문장만 참이고 나머지 문장 모두 거짓이다.

3. 쌍둥이 퍼즐

    어느 마을에 형제가 있는데 이 둘은 일란성 쌍둥이다. 이중 한명은 진실은 거짓으로 거짓은 진실로 파악하며 항상 거짓말만을 한다고 한다. 다른 한명은 올바른 판단만 하며 항상 진실만을 말한다고 한다. 흥미로운 점은 이 쌍둥이 형제 모두 같은 물음에 똑같은 답을 한다는 것. 예를 들어 “2+2=4는 참인가?”라는 질문을 던졌을 때, 진실만을 말하는 쪽은 당연히 “예”라고 답한다. 거짓말만 하는 쪽도 2+2=4를 거짓으로 인식하고 이에 반하는 “예”라는 답을 내린다. 여러분이 길을 가다 이 쌍둥이 형제 중 한 사람을 만났다. 몇번을 묻든지간에 예스-노 문답을 통해 그가 진실만을 말하는 쪽인지 거짓만을 말하는 쪽인지 구별해낼 수 있을까?

    이 문제에 대해 두 명의 논리학자 A, B가 논쟁을 벌였다. 논리학자 A는 “쌍둥이는 어떤 문제에든 같은 답을 하기 때문에 수없이 물어봐도 둘을 구별해낼 수 없다”고 주장했다. 논리학자 B는 “아니다. 단 한번의 질문만으로 이 둘을 구별해낼 수 있다”고 자신했다. 누구의 말이 옳은 것일까?

    답은 B다. “당신은 진실만을 말하는가?”라는 질문 하나면 충분하다. 진실만을 말하는 쪽은 당연히 “예”라고 답할 것이고 거짓만을 말하는 쪽은 모든 것을 반대로 인식하기 때문에 자신은 진실을 말한다고 믿고 정반대로 “아니오”라는 답을 할 것이다.

    이번에는 쌍둥이 형제 둘다 참, 거짓을 올바르게 판별하고 한쪽은 진실만을, 한쪽은 거짓만을 말한다고 할 때, 똑같은 물음에 대해 여러분은 어떤 답을 내릴 것인가? 이들 쌍둥이는 위의 경우와는 다르게 같은 물음에 서로 반대의 대답을 할 것이다. 모든 질문에 반대로만 대답할까? 위의 질문 “당신은 진실만을 말하는가?” 경우에는 둘 모두 “예”라고 답할 것이다. 이번 문제는 앞의 문제보다 훨씬 쉽다. 단순히 “3+7=9인가?”라는 질문을 통해서도 둘을 구별해낼 수 있으니까.

4. 토요일의 패러독스

    어느 판결에서 판사가 피고에게 유죄를 선고하고 다음과 같은 형을 내렸다.

    “다음주 월요일부터 토요일 사이 하루를 택해 교수형을 집행하겠다. 하지만 죄인에게 언제 형이 집행되는지 알리지 않는다. 고로 죄인은 형집행일이 언제인지를 예측할 수 없다.”

    죄인은 가만히 생각에 잠겼다가 갑자기 “판사는 지금 거짓말을 하고 있다! 판사의 말대로라면 이 사형은 결코 집행될 수 없다”고 소리쳤다. 그의 추론은 다음과 같았다. “판사의 말대로라면 절대로 토요일에는 형이 집행될 수 없다. 만약 월요일부터 금요일까지 형이 집행되지 않는다면 토요일 당일이 형집행일임이 예측가능하기 때문에 토요일에는 결코 교수형에 처해지지 않는다. 그럼 월요일부터 금요일 사이에 사형이 집행돼야 하는데, 만일 월요일부터 목요일까지 사형이 집행되지 않으면 반드시 금요일에 사형돼야 한다. 금요일도 또 예측이 가능하게 돼 사형은 집행될 수 없다. 금요일과 토요일은 불가능하므로 월요일부터 목요일까지만 남고 같은 방법으로 해나가면 목요일, 수요일, 화요일 차례로 형이 집행될 수 없다. 이렇게 되면 월요일밖에 남지 않는데 이것 역시 예측가능하므로 월요일부터 토요일 어느 날에도 사형은 집행될 수 없다” 죄수는 편한 마음으로 다음 한 주가 지나기를 기다렸다. 과연 죄수는 교수형을 피할 수 있었을까? 하지만 교수형은 아무 문제없이 수요일에 집행됐다. 어떻게 가능했을까?

    판사의 판결은 (1)죄수를 교수형에 처한다 (2)죄수는 형집행일 아침까지도 그 날이 사형일임을 알 수 없다는 두 가지로 요약될 수 있다. 만약 (1)을 사실로 받아들인다면 사형은 집행될 수 없게 돼 (2)는 거짓이 된다. 만약 (1)을 거짓으로 받아들이면 결과적으로 사형일을 예상할 수 없는 꼴이므로 (2)가 참이 된다. 판사의 말을 믿을때 (1)이 참이면 (2)가 거짓이고 (2)가 참이면 (1)이 거짓이 되므로 판사의 말은 거짓말이 된다. 판사의 말을 믿지 않는다면? (1)을 거짓으로 보면 (2)는 참이고 (2)가 거짓이면 (1)이 참이 되니까 판사의 말은 참이다. 판사의 말을 진실로 받아들이면 거짓이고 거짓으로 받아들이면 참이라니?

    이것은 일명 ‘교수형 패러독스’로 잘 알려져 있다. 기원은 정확하진 않지만 1940년경 한 교수가 학생들에게 다음주 중 어느 날에 기습적으로 시험을 치를 것이라고 예고한 것이 그 최초였다고 한다. 교수는 학생들이 시험날짜를 정확히 예측할 수 없다고 장담했고 한 학생은 죄수와 같은 방법으로 시험이 치러질 수 없음을 증명한다. 그러나 결국은 교수가 호언한 대로 시험이 치러졌다. 이런 논리로 판사의 판결은 옳았음이 입증됐다. 즉 위의 (1)과 (2)는 동시에 만족될 필요가 없는 것이다.

5. 거짓말쟁이 패러독스

    가장 오래되고 유명한 패러독스중 하나. 거짓말쟁이 패러독스는 B.C. 6세기부터 많은 철학자들의 관심을 불러 일으켰는데 그 내용은 다음과 같다

    “내가 지금하고 있는 말은 거짓이다”라고 한 사람이 말했다. 과연 그의 말이 참일까 거짓일까? 만약 그의 말이 참이라면 그가 하고 있는 말이 거짓이라는 데 모순되고, 그가 한 말이 거짓이라 면 그의 말은 참이 돼 모순이 생긴다. 아무리 생각해봐도 그의 말은 참도 거짓도 될 수 없다. 이 게 가능이나 한 일인가?

    이 패러독스는 오랫동안 철학자들의 입에 오르내리면서도 얼토당토 않은 얘기로 치부돼 일반에 거의 알려지지 않은 채 사장됐던 난제. 물리학자 뢴트겐이 햇빛을 차단해 보관했던 사진건판 때문에 우연하게 X선을 발견한 것처럼 발상의 전환을 통해 해결의 실마리가 마련된 유명한 패러독스. 뢴트겐의 관측은 거짓말쟁이 패러독스와 직접적으로 관련을 갖지는 않지만 논리학상 알려지지 않은 ‘X인자’의 존재성을 시사해 준 것이다.

    다시 ‘거짓말쟁이 패러독스’로 돌아가서 그 변형들을 살펴보자.

[1] 유니콘의 존재성에 대한 증명

    여러분에게 지금 유니콘이 존재한다는 사실을 증명해 보이겠습니다. ‘현존하는 유니콘은 존재한 다’는 문장을 증명하면 충분하겠죠? 그럼 ‘유니콘은 존재한다’가 성립하니까 말이죠. 지금부터 모든 수단을 동원해서 현존하는 유니콘은 존재한다는 것을 증명해보이죠.

A : 현존하는 유니콘은 존재한다
B : 현존하는 유니콘은 존재하지 않는다
이들 말고는 다른 가능성이 있을 수 있나요? 여기서 B는 명백하게 자기 모순에 빠져있네요. 어떻 게 현존하는 유니콘이 존재하지 않을 수 있나요? 결국 A는 참이고 유니콘은 존재합니다.

[2] 원-카드 패러독스

    1913년 영국의 수학자에 의해 고안됐던 패러독스. 눈앞에 한 장의 카드가 놓여있습니다. 이 카 드의 앞면에는 ‘이 카드의 뒷면에 쓰여진 문장은 사실이다’ 라고 적혀있어서 카드를 뒤집어봤더 니 이번에는 ‘이 카드의 뒷면에 쓰여진 문장은 거짓이다’라는 말이 적혀 있습니다. 앞면에 쓰여 진 말대로라면 ‘이 카드의 뒷면에 쓰여진 문장은 거짓이다’가 사실이 되고, 고로 ‘이 카드의 뒷면 에 쓰여진 문장은 사실이다’가 거짓이 되네요. 앞면에 쓰여진 말대로 따라가면 그 말이 결국은 거짓이 되는 셈이군요. 반대로 카드의 앞면에 쓰여진 말이 거짓이라면 ‘이 카드의 뒷면에 쓰여진 문장은 거짓이다’가 거짓이므로 카드의 앞면에 쓰인 말은 참이 됩니다. 참이면 거짓이고 거짓이 면 참이다?

[3] ‘크레타’인 패러독스

    B.C.6세기경 유클리드의 수제자였던 그리스 철학자 유불리데스는 “모든 크레타인은 거짓말쟁이다”라는 패러독스를 고안해냈습니다. 만약 이 말이 사실이라면 크레타인이었던 그는 거짓말을 하는 것이 되고, 거짓이라면 그는 진실을 말하고 있는 것이 되겠죠.

[4] 사냥의 패러독스

    왕자의 사냥구역에서 밀렵을 하면 사형되는 나라가 있었습니다. 어느날 왕자는 “누구든 밀렵을 하는 자는 사형에 처해지나 교수형이나 참수형을 선택할 권리를 준다. 죄인에게는 죽기전 한 번의 발언권을 주겠는데 그것이 거짓이면 교수형에 처하고 만약 사실이라면 참수한다”는 새로운 법을 공포했습니다. 이에 익살스런 논리학자가 이 모호한 선택권을 시험해보려고 밀렵을 하다 잡혔는데 발언권이 주어지자 그는 “나는 교수형에 처해질 것이오”라고 말했답니다. 그리고 사형 수가 당도하자 “만일 당신이 지금 교수형을 행하면 왕자의 법을 어기는 것이오. 내 말이 사실이면 법률상 참수돼야 하니까. 또 참수형을 행한다면 내 말이 거짓이 돼 교수형에 처해져야 마땅하지. 그럼 그것 또한 법을 어기는 것이 되지 않겠소?”라며 사형을 모면했다고 한다.

    속고 있는 기분이 드는 건 왜일까? 논리학상 어떤 X인자가 숨어있긴 있다는 걸까? 논리학자들이 내린 결론은 언어의 사용에 그 키가 숨겨져 있다는 것이다. 문장의 전후관계에 지배받는 ‘논리’들이 서로 독립된 것이라고 느껴지는 일종의 ‘착시’를 겪는 것? 이런 언어사용에서 오는 오류를 문맥에 맞게 바라보는 ‘눈’이 논리학에서의 ‘X인자’인 셈이다.

6. 몬티-홀 딜레마

    여기서부터는 패러독스라기보다는 우리의 직관을 빗나가는 문제다.

    몬티는 자신의 재력으로 친구들에게 선의의 장난을 하는 것을 즐기는 마음씨 좋은 백만장자. 하루는 마릴린이란 가난한 친구에게 내기를 제안했다. “이번 크리스마스 선물로 네게 선물을 하고 싶은데 그냥 주면 재미가 없잖아? 이런 게임을 하자구. 저 건물에 세 개의 문이 있지? 그중 한 문 뒤에는 멋진 고급승용차가 있고 나머지 문들 뒤에는 자전거가 있다구. 자네가 선택한 문 뒤에 있는 선물을 주도록 하지.” 마릴린이 그중 하나를 고르자 몬티가 새로운 제안을 해왔다. “그걸 골랐나? 내 당신에게 한번의 기회를 더주지. 내가 남은 두 개의 문들 중 자전거가 있는 문을 열지. 그리고나서 원래의 선택을 고수하든지 아니면 나머지 하나로 선택을 바꿔도 되네.” 마릴린은 원래 선택한 문과 남은 문 하나중 선택할 권리가 있는 것이다. 과연 그렇다면 자동차를 받기위해선 원래대로 고집하는게 나을까, 아니면 선택을 바꾸는 편이 나을까. 과연 몬티는 더 나은 기회를 준 것인가?

    여러분이 이런 상황이라면 어떤 선택을 할까? 수학적으로 풀어보자.

①당연히 남은 문은 두개뿐이니 바꾸거나 바꾸지 않거나 50:50의 확률로 같은 확률이니까 아무 렇게나 정한다.
② 선택을 바꾸는게 탈 확률이 더 높다.
③선택을 바꾸지 않는 편이 더 높다.

    답은 ②번이다. 확률론적으로 원래 선택한 문이 아닌 남은 문을 선택할 경우 자동차를 탈 확률이 더 높다. 같이 한 번 풀어보자.

    A, B, C 세개의 문중 마릴린이 A를 선택했다고 가정하자. 그럼 A나 B, 또는 C문 뒤에 자동차가 있을 수 있는데 각각의 경우 몬티가 B를 열 확률은

    이때 우리가 구하고 싶은 확률은 몬티가 B를 열었다고 가정하고 A를 그대로 취할 때 자동차를 선택할 확률 P(A|monB)과 C로 바꿨을 경우 자동차를 받게 될 확률 P(C|monB)이다. 그런데 조건부확률의 정의에 의해서

    결과적으로 처음 선택한 문보다는 몬티가 제외시키고 난 나머지 문을 선택하는게 더 유리하다.만약 아무런 변화없이 세 개의 문중 하나만을 선택한다면 자동차를 탈 확률은 ⅓이지만 몬티가 한 번의 기회를 더 주면 선택을 바꿔 그 확률을⅔로 2배가 되게 할 수 있는 것이다. 몬티-홀 문제는 4개의 문으로 확장시킬 수도 있다. 4개의 문 중 한 개의 문 뒤에 금괴가 있고 나머지 문뒤에는 아무것도 없다고 하자. 이때 같은 방법으로 하나의 문을 선택하고 나머지 문들 중 아무것도 없는 문을 열어준다. 그러면 닫힌 문 세 개 중 하나를 선택하게 하고 다음은 세개의 경우처럼 하면 된다. 결과는 마찬가지로 선택을 계속 바꾸는 것이 더 유리하다. 일반적으로 n개의 문의 몬티-홀 문제를 풀때, 각 단계의 선택을 바꿔서 금괴를 얻어낼 확률은 보다 크다고 한다.

    이상에서 살펴본 것들 외에도 많은 패러독스들이 있다. 아직 미해결인 패러독스들을 푸는 몫이 여러분들에게 열려져 있다. 혹시 놀라운 발견을 하게 되지 않을까.

호텔 패러독스

    1백개의 방을 가진 호텔이 있다. 한참 휴가철이라 빈방이 하나도 없고 다 차있다. 새손님이 도착해 방을 요구하자 지배인이 “죄송합니다. 빈방이 없네요”라고 답했다. 그래서 옆호텔로 갔는데 무한개의 방을 갖고 있는 호텔이었다. 이 호텔도 모든 방이 다 차있다. 여기에 도착해 방을 요구하자 지배인은 “물론 드리죠. 잠시만 기다려주십시오”라고 말하고는 1호실 손님을 2호실로, 2호실 손님은 3호실로, 3호실 손님은 4호실로… 옮기는 작업을 하고는 1호실을 내주었다. 자 이번에는 무한개의 방을 갖고 있는 호텔에 무한명의 손님이 찾아왔다고 가정해보자. 손님들 모두에게 방을 내줄 수 있을까?

    물론 모두 이 호텔에 머물 수 있다. 1호실 손님은 2호실로, 2호실 손님은 4호실로, 3호실 손님은 6호실로… 옮겼다. 그러고 나자 홀수호실이 모두 비게 됐고 새로 찾아온 손님들 모두에게 1호실, 3호실, 5호실,… 순으로 방을 줄 수 있었다.