복소수에서도 실수처럼 대소 비교가 가능할까?

복소수는 대소 비교가 정말 안 돼요?

자연수, 정수, 유리수, 실수에서는 $3 < 3.1 < 3.14 < 3.141 < ... < π$와 같은 이런 이야기를 하는데, 복소수에서는 그것이 안 된다는 것을 고등학교 때부터 배운다. 그것이 꼭 안 된다는 보장이 있을까? 예를 들어 $-i < i$, $1+i < 2+2i$라고는 말할 수 없는 것일까?

사실 필요에 따라 $z = a+ib$라고 나타내고 "사전식 순서"(lexicographical order)를 도입하는 것은 가능하다. 그저 저것을 사전에 나오는 단어라고 생각했을 때, $4+7i$와 $6+5i$ 중에 뭐가 먼저 나오고 뒤에 나오겠냐는 것이다. 앞자리가 작을수록 더 앞에 나오고, 그 다음 자리가 작을수록 더 앞에 나오고, 그런 식이다. 그러므로 $z_1 = a_1 + ib_1, z_2 = a_2 + ib_2$라고 했을 때 $z_1<z_2$라는 것을 $(a_1 < a_2) \ \ or \ \ (a_1 = a_2 \ \ and \ \ b1 < b2)$라는 것으로 정의할 수 있다.

따라서 사전식 순서에서는 $4+7i < 6+5i$가 된다. 마찬가지로 $2+3i < 2+4i$이고, $5+2i < 6 +3i$ 등이 성립한다. 그러나, 사전식 순서 도입이 정말로 여러 좋은 성질을 만족시키는가 묻는다면, 제대로 조사해보진 못했으나 유튜브로 구경한 다른 교수님의 복소함수론 수업에서는 "그렇지는 않다"고 말하는 걸 들었다.

친구에게 나중에 미적분 수업을 해주기 위해 우리학교 교수님들께서 집필하신 1학년 수학 책을 펼쳐본 결과, 1장에서 실수가 만족하는 공리들이 12가지 정도 나열되어 있었다. 그 중 해석학의 측면에서 가장 주목할 만한 것은 완비성 공리(Axiom of Completeness)이고, 남은 11가지 공리는 Ordered field axiom에 해당하는 것이었다. 미적분 책에서 완비성 공리를 언급하다니, 내가 들은 수업에서는 왜 2장부터 수업을 나갔는지 알 것 같았다.

우리학교 수학과를 기준으로 현대대수학을 3학년 때 배우기 전 해석학1 과목을 2학년 때 먼저 접하기 때문에 나는 해석학 시간에도 순서체와 관련된 공리는 그저 "어... 왜 따분하게 저걸 공리로 두고 여러 성질들을 다 증명하는지는 잘 모르겠지만 그냥 사칙연산 잘 된다는 걸 엄밀하게 이야기하고 싶으신가 보네... 대소 비교도 된다는 뜻인가 보네..."하고 넘어갔었다. 이 글에서는 그 내용 중에서도 실수 집합에 대해 다음과 같이 양수 집합이 정의될 수 있다는 공리를 소개하고자 한다.

양의 부분집합의 존재성

[공리] 양의 부분집합의 존재성
집합 $P$가 $R$의 진부분집합으로 존재하여서, ($0$은 덧셈에 대한 항등원이고 $-a$는 $a$의 덧셈에 대한 역원이다.)
(1) P의 원소 $a$, $b$에 대해 $a+b∈P$이고 $ab∈P$이다.
(2) 0이 아닌 실수 $a$에 대해서 $a∈P$이거나 $-a∈P$이다.
(3) 0은 $P$에 속하지 않는다.

이게 왜 양수 집합을 말하는 것인지 모르는 사람을 위해 조금만 더 변명을 하자면, 이런 장치가 있어야만 우리가 쓰는 $a>0$같은 표기가 논리적으로 가능한 것이다. 즉 $a>0$은 $a∈P$라고 쓴 것과 결국 같은 말이지만 그저 더 특별하게 새로운 기호인 ">" 혹은 "<"를 도입해 그 "순서 관계"를 표기한 것이다.

일반적으로 실수 사이의 "순서 관계" 혹은 대소 비교는 이 양의 부분집합을 가지고 이루어지는데, 실수 $a, b$에 대해 $b-a∈P$이면 $b$가 $a$보다 크다고 하고 $b>a$라고 나타낸다. 한편 R은 순서체여서 교과서에 등장하는 "부등식의 성질"이라는 것에 의해 양변에 같은 실수를 빼도 순서가 보존되므로 $b>a$는 $b-a > a-a (= 0)$인 것과 동치이다. 즉 $b-a∈P$는 $b-a>0$라는 것과 같은 말이다. 그러니 공리에서 말한 $P$는 우리가 중학교 때부터 배워서 잘 아는 양수의 개념과 본질적으로 같음을 더 구체적으로 확인하였다.

이 글의 목표는 복소수 집합 $\mathbb{C}$에서는 그러한 양수 집합을 생각할 수 없음을 보이는 것이다.

양의 복소수 집합은 존재하는가?

정리
양의 복소수 집합은 존재하지 않는다.

우리가 흔히 생각하는 '양수'라는 것이 복소수에서는 있을 수 없다는 명제에 대한 이유는 다음과 같다.

증명

다음 조건을 만족하는 집합 $\mathbb{C}^+$가 존재한다고 가정하자.

(1) 집합 $\mathbb{C}^+$가 $\mathbb{C}$의 진부분집합으로 존재하여서, $\mathbb{C}^+$의 복소수 $z_1, z_2$에 대해 $z1+z2∈\mathbb{C}^+$이고 $z_1z_2∈\mathbb{C}^+$이다.
(2) 0이 아닌 복소수 $z$에 대해서 $z∈\mathbb{C}^+$이거나 $-z∈\mathbb{C}^+$이다.
(3) 0은 $\mathbb{C}^+$에 속하지 않는다.

$w$가 0이 아닌 복소수라고 하면, (2)에 의해 $w \in \mathbb{C}^+$이거나 $-w \in \mathbb{C}^+$이다.
각 경우에 대해, (1)에 의해 $ww \in \mathbb{C}^+$이거나 $(-w)(-w) \in \mathbb{C}^+$이다.
한편 복소수에서도 $(-w)(-w) = ww = w^2$이므로
(복소수에서도 $0 = 0(-w) = (-w + w)(-w) = (-w)^2 - w^2$이므로 $(-w)^2 = w^2$임을 얻는다.)
따라서 0이 아닌 복소수 $w$에 대해 $w^2 \in \mathbb{C}^+$여야 한다.
(0이 아닌 실수 $x$에 대해 $x^2 > 0$인 것과 맥락이 같다.)

이는 $i^2 = -1 ∈ \mathbb{C}^+$가 되어야 함을 의미한다.
여기서 (1)에 의해 $(i^2)(i^2) = (-1)(-1) = 1 ∈ \mathbb{C}^+$이다.
따라서 $-1 ∈ \mathbb{C}^+$이고 $1 ∈ \mathbb{C}^+$이므로 다시 (1)에 의해 $(-1) + 1 = 0 ∈ \mathbb{C}^+$여야 한다.
이는 (3)에 모순이다.

이는 양수와 관련된 공리 3가지를 만족하는 집합 $\mathbb{C}^+$가 있다고 가정한 것으로부터 온 것이다.
따라서 복소수 집합에서는 실수에서와 같은 양수 집합이 존재하지 않는다. ■

​

위의 증명으로부터, "$b-a∈\mathbb{C}^+$를 $b>a$라고 나타낸다"같은 이야기를 할 수 없다.

다시 말해 실수에서와 같이 복소수 사이에서의 대소 비교는 할 수 없다. 복소수는 순서체를 이루지 않는다.

이로 인해 복소수 집합에서는 sup이나 inf같은 것도 말할 수 없고, 당연히 그것과 관계된 완비성 공리도 이야기하지 않는다. 그로 인해 복소함수의 중간값 정리도 함부로 말할 수 없다. 같은 이유로 인해 최대-최소 정리도 말할 수 없고, 복소해석학에서의 롤의 정리와 평균값 정리는 결국 실수부, 허수부로 나눈 실 함수에 대해서만 따로따로 말할 수 있게 된다.

위의 증명은 어렵지 않게 고졸 상태인 내가 생각해낸 것이다. 만약 당신이 수학 선생님이라면, 지도해주는 고등학생이 왜 복소수는 대소 비교가 안 되는 거냐고 물으며 혹시 음수의 존재, 허수의 존재처럼 대학교에 가면 몰래카메라로 "사실은 대소 비교가 가능합니다 여러분!" 하는 거 아니냐고 반론한다면 이 글의 내용을 보여주거나 설명해주길 희망한다.