방정식과 대칭의 대수학
우리는 중학교 때 1차, 2차 방정식의 근의 공식을 배웠습니다. 수학을 좋아하던 학생이라면 3차, 4차 방정식도 근의 공식이 있지만, 5차 방정식은 근의 공식이 존재하지 않는다는 사실을 들어 보셨을지도 모르겠네요.
[Figure 1] 일차방정식과 이차방정식의 근의 공식
이 사실에 대한 정확한 표현은 5차 이상의 방정식은 계수들과 상수들의 사칙연산과 거듭제곱근으로 표현되는 근의 공식이 존재하지 않는다는 것입니다. 그러나 그 증명은 매우 추상적이어서 어렵게 느껴지기도 합니다. 하지만 이는 대칭에 관한 간단한 아이디어에 기초하고 있습니다. 관련된 구체적인 계산을 통해 방정식들을 분석하며 현대대수학이 태동하던 순간을 살펴보도록 합시다!
방정식과 대칭을 이어주는 다리는 1591년 발표된 비에타 정리, 혹은 근과 계수의 관계에 기초합니다. 이는 고등학교 과정에도 등장하는데, 𝑛차 방정식의 계수가 아래 그림과 같이 𝑛개의 복소수 근들에 대해 대칭적인 형태의 식을 띤다는 정리입니다(대수학의 기본정리, 즉 𝑛차 방정식이 중근을 포함해 𝑛개의 복소수 근을 갖는다는 것은 우선 받아들이도록 합시다. 이 정리의 증명은 부록에 수록했습니다.).
[Figure 2] 2, 3차 방정식의 비에타 정리(근과 계수의 관계)와 대칭
방정식의 근의 공식을 만든다는 것은 계수들에 관한 어떤 연산 결과가 방정식의 각 근이 되도록 하는 것입니다. 그런데 계수들에 대한 유리식의 연산 결과는 항상 근에 대한 대칭적인 유리식입니다. 이것이 어떤 의미인지 예를 들어 살펴볼까요?
다음은 우리가 익숙한 2차 방정식 𝑥²+ 𝑎𝑥 + 𝑏 = 𝟢 에 대한 비에타 정리와 한 근을 나타낸 것입니다.
[Figure 3] 2차 방정식의 근의 공식
𝑎, 𝑏는 𝑥₁, 𝑥₂에 대해 대칭적인 다항식으로 생각할 수 있습니다. 이때 𝟤𝑎 + 𝑏 = 𝑥₁𝑥₂ - 𝟤𝑥₁ - 𝟤𝑥₂이나 𝑎𝑏 + 𝑏³ = 𝑥₁³𝑥₂³ - 𝑥₁²𝑥₂ - 𝑥₁𝑥₂² 등 두 다항식 𝑎, 𝑏에 관한 많은 연산의 결과는 모두 𝑥₁과 𝑥₂가 대칭적으로 섞여서 나타납니다. 그런데 위 공식에서는 어떻게 이들의 연산 결과가 𝑥₁이라는 대칭적이지 않은 단항식과 항등식을 이룬 것일까요?
[Figure 4] 대칭적인 연산 결과와 대칭이 깨진 근의 공식
그 열쇠는 바로 근호 안의 식, 즉 방정식의 판별식에서 찾을 수 있습니다!
[Figure 5] 근호를 씌우면 대칭이 깨진다
𝑥₁, 𝑥₂에 대해 대칭적이던 다항식 𝑎, 𝑏를 연산해서 처음으로 대칭이 깨진 다항식인 𝑥₁- 𝑥₂를 얻었습니다. 이 대칭이 깨진 것은 근호를 씌운 값을 하나로 결정했기 때문입니다. 𝟣² = (- 𝟣)² = 𝟣이므로, 제곱해서 (𝑥₁- 𝑥₂)²이 되는 다항식은 원래 𝟣×(𝑥₁- 𝑥₂)와 (- 𝟣)×(𝑥₁- 𝑥₂)의 2가지가 있었습니다. 그런데 √(𝑎²- 𝟦𝑏)의 값을 둘 중 하나로 결정하면서 𝑥₁과 𝑥₂의 대칭이 깨지게 됩니다. 이제 𝑥₁, 𝑥₂에 대한 두 관계식, 𝑥₁ - 𝑥₂ = √(𝑎²- 𝟦𝑏)과 𝑥₁ + 𝑥₂ = - 𝑎 를 연립하여 2차 방정식의 근의 공식을 얻을 수 있습니다.
이러한 아이디어는 3차, 4차 방정식의 근의 공식을 유도할 때도 똑같이 활용됩니다. 예를 들어 3차 방정식 𝑥³ + 𝑝𝑥 + 𝑞 = 𝟶 의 세 근 𝑥₁, 𝑥₂, 𝑥₃에 대하여 대칭적인 형태인 𝑝, 𝑞를 다음과 같이 연산하여 대칭을 깰 수 있습니다. (이차방정식의 경우보다 복잡하지만, 단순한 식 계산으로 확인할 수 있습니다.)
[Figure 6] 3개 변수에 대한 대칭을 깨는 계산
이때 𝜔 = (- 𝟣 + 𝑖 √𝟥)/ 𝟤 는 𝜔³ = 𝟣 을 만족하는 복소수로, 𝟣² = (- 𝟣)² = 𝟣이었던 것처럼 을 만족함을 알 수 있습니다. 따라서 대칭은 {𝟏}의 계산 결과를 𝟣𝑓₁과 (- 𝟣)𝑓₁ 중 하나로 결정하면서 한 번, {𝟐}의 계산 결과를 𝟣𝑓₂, 𝜔𝑓₂, 𝜔²𝑓₂ 중 하나로 결정하면서 또 한 번 깨지게 됩니다. 실제로 위의 식들은 3차 방정식의 근의 공식으로 알려진 카르다노의 공식에 등장하는 주요 항들입니다.
위의 논의로부터, 근의 공식을 만들기 위해서는 반드시 근과 계수 사이의 대칭이 깨져야 함이 분명하게 느껴지나요? 그리고 대칭은 사칙연산만으로는 깨지지 않아, 어떤 𝑚제곱근을 결정하는 과정을 필요로 합니다. 그런데, 5차 방정식의 대칭, 즉 5변수 대칭식에는 거듭제곱근을 이용하여 깰 수 없는 대칭이 존재합니다. 어떤 5변수 다항식 𝑓에 𝑚제곱근을 씌우는 과정을 생각합시다. 즉, 5변수 다항식 𝘨가 존재하여 등식 𝘨(𝑥₁, 𝑥₂, 𝑥₃, 𝑥₄, 𝑥₅)ᵐ = 𝑓(𝑥₁, 𝑥₂, 𝑥₃, 𝑥₄, 𝑥₅)가 항등식이라고 합시다.
[Figure 7] 거듭제곱근을 씌운 5변수 다항식의 대칭
𝑓에 대해 ①의 등식이 다항식에 대한 항등식이라고 합시다. 처음 5차방정식 계수들이 나타내는 다항식은 이러한 대칭 관계를 갖고 있을 것입니다. 이때 𝘨ᵐ = 𝑓가 항등식이므로 (𝚊)가 항등식이고, 즉 𝜁₁ᵐ = 𝜁₂ᵐ = 𝟣이면서 ②가 항등식이 되는 두 복소수 𝜁₁, 𝜁₂가 존재함을 알 수 있습니다.
따라서 위 항등 관계를 통해 다항식 𝘨에 변수의 위치(순서) 바꾸기를 반복할 수 있습니다. 다음과 같이 진행해 봅시다.
[Figure 8] 다항식의 문자 위치를 바꾼 것과 그 도식. 각 등호는 모두 항등식이다.
위 관계는 모두 항등식이고, 따라서 𝘨가 𝟢다항식인 특수한 경우를 제외하면 (𝟷.𝟷)로부터 𝜁₁³ = 𝟣 을 얻을 수 있습니다. 마찬가지로 (𝟷.𝟸), (𝟸), (𝟹)에서 각각 𝜁₂³ = 𝟣, (𝜁₁𝜁₂)⁵ = 1, (𝜁₁²𝜁₂)⁵ = 1을 얻을 수 있습니다. 이들을 연립하면 𝜁₁ = 𝜁₂ = 1을 얻고, 따라서 다항식 𝘨도 𝑓가 만족하던 관계 ①을 만족함을 알 수 있습니다. 처음에 5차방정식의 계수들이 ①의 관계를 만족하고 있었기 때문에, 5차 방정식의 계수에 사칙연산과 거듭제곱근 씌우기를 반복해도 ①을 만족하지 않는 𝑥₁과 같은 단항식은 얻을 수 없습니다. 즉, 위의 대칭은 거듭제곱근으로 깨뜨릴 수 없고, 5차 방정식의 근의 공식이 존재하지 않는다고 결론지을 수 있습니다.
이렇게 방정식을 푸는 문제는 결국 대칭을 깨뜨리는 문제로 이어집니다. 5차방정식의 근의 공식을 구하기 위해서는 5변수 다항식의 대칭이 깨져야 하고, 이는 거듭제곱근만으로는 부족하여, 다른 함수들을 필요로 합니다. 그런데 또 하나 주목해야 할 점은, 𝜁₁ = 𝜁₂ = 1의 결론을 얻을 때 복소수 곱셈의 교환법칙을 사용하였다는 점입니다. 일반적으로 위치 바꾸기는 아래 그림에서 볼 수 있듯이 교환되지 못합니다.
[Figure 9] (위) 집합 𝑺 = {𝟷,𝟸,𝟹}에 주어진 교환되지 않는 두 위치 바꾸기 / (아래) 에서의 위치 바꾸기
그래서 만일 거듭제곱근을 통해 어떤 대칭을 깰 수 있다면, 이는 그 대칭에 해당하는 위치 바꾸기 함수들의 집합을 적당히 몇 개의 부분집합으로 분할하여 각 부분집합 사이의 연산에서 교환법칙이 성립하는 상황으로 대응시킬 수 있습니다. 대수학, 특히 군의 언어를 사용해 이 두루뭉술한 설명을 정확히 할 수 있으며, 이는 추상화되어 5차 방정식뿐만 아니라 다양한 수학의 분야에 응용됩니다. 수학자들은 이처럼 다양한 문제들을 ‘위치 바꾸기 집합이 연달아 나눠지는 과정에서 나타나는 좋은 성질들’을 통해 이해하는 것을 갈루아 이론이라고 이름 붙였습니다. 여러분들도 대수학과 함께 대칭의 아름다움에 빠져보는 건 어떨까요?
부록: 대수학의 기본정리
대수학의 기본정리의 내용은 임의의 상수가 아닌 복소계수 다항식 𝑓(𝑥) = 𝑎₀ + 𝑎₁𝑥 + + 𝑎ₙ𝑥ⁿ에 대하여 적당한 복소수 𝛼가 존재하여 𝑓(𝛼) = 𝟢 라는 것입니다. 𝑛차 방정식이 중근을 포함하여 𝑛개의 복소수 근을 갖는다는 것은 위 사실을 𝑓에 대해 적용하여 𝑛차 방정식의 한 근 𝑥₁을 얻어낸 후, 복소수에 대한 나눗셈 정리를 적용하여 𝑓(𝑥) = (𝑥 - 𝑥₁)𝑓₁(𝑥)를 만족하는 복소계수 𝑛 - 1차 방정식 𝑓₁(𝑥)를 얻어낸 다음, 𝑓₁(𝑥)에 대하여 이 과정을 다시 적용해 𝑓(𝑥) = (𝑥 - 𝑥₁)(𝑥 - 𝑥₂)𝑓₂(𝑥)를 만드는 과정을 𝑛회 반복하여 얻을 수 있을 것입니다. 이제 하나의 근이 존재함을 보여봅시다. 아래 소개된 증명은 코시(A. Cauchy)의 증명입니다. 다음 집합
위에 정의된 임의의 연속함수가 최댓값과 최솟값을 갖는다는 것은 고등학교 과정의 실함수에 대한 최대-최소 정리의 일반화입니다. 특히 각 𝑧 ∊ 𝐵𝑟을 |𝑓(𝑧)| 로 대응하는 함수는 𝐵𝑟에 정의된 연속함수입니다. 이제
을 모두 만족하는 양의 실수 𝑹을 고르면, 최대-최소 정리에 따라 적당한 𝛼 ∊ 𝑩𝑹이 존재하여 임의의 𝑢 ∊ 𝑩𝑹 에 대해 |𝑓(𝛼)| ≤ |𝑓(𝑢)|를 만족할 것입니다. 즉, |𝑓(𝛼)| ≤ |𝑓(𝟢)| = |𝑎₀|인데, 임의의 𝑧 ∉𝑩𝑹에 대해 |𝑧| > 𝑹이므로
이고, 따라서 𝑧 ∉𝑩𝑹 들도
를 만족하게 됩니다. 즉, 임의의 복소수 𝑧는 |𝑓(𝑧)| ≥ |𝑓(𝛼)| 를 만족합니다. 증명의 목표는 𝑓(𝛼) = 𝟢을 보이는 것입니다. 이를 부정해 𝑓(𝛼) > 𝟢을 가정하고, 이항정리를 이용하여 다음과 같이 𝑓를 정리해 봅시다.
이때 𝑏ₘ ≠ 𝟢이도록 𝑚을 잡고, 가정에 따라 𝑏₀ ≠ 𝟢입니다. 𝜔ᵐ = -𝑏₀/𝑏ₘ 인 복소수 𝜔를 잡고 다음을 만족하도록 𝑩, 𝜀, 𝑧₁을 정의합시다. (𝜔의 존재성은 고급수학 과정의 드 무아브르 공식에서 바로 알 수 있습니다.)
이때 다음 계산이 성립합니다.
이제 삼각부등식에 따라,
가 성립하며, 이는 처음의 |𝑓(𝑧)| ≥ |𝑓(𝛼)|에 모순됩니다. 따라서 𝑏₀ = 𝟢이어야 하고, 즉 𝛼는 방정식의 근입니다.
References
[1] Jörg Bewersdorff, Galois Theory for Beginners, American Mathematical Society., 2006; 35.
[2] A Vethamanickam, C Krishna Kumar. The structure of the lattice of subgroups of the symmetric group s5. International Journal of Statistics and Applied Mathematics, 2018; 3(2):652-663.
Written by GLEAP 11기 이현준
Edited by GLEAP 학술팀·홍보팀
Comments