선형시스템은 연립 1차방정식입니다. 행렬은 선형시스템을 나타내는데, 매우 유용합니다.
선형시스템은 선형 방정식들의 집합으로 표현되는 시스템을 말합니다. 각각의 선형 방정식은 변수들의 일차항과 상수항으로 이루어져 있으며, 이들을 동시에 만족하는 변수들의 값들을 찾는 문제를 의미합니다. 선형시스템은 다양한 분야에서 중요한 역할을 합니다. 예를 들면, 물리학에서 운동 방정식, 공학에서 회로 분석, 경제학에서 수요-공급 모델 등이 선형시스템으로 표현될 수 있습니다.
선형시스템을 행렬로 나타낼 때, 선형시스템의 계수들과 상수항들을 행렬과 벡터로 표현합니다. 일반적으로 n개의 미지수와 m개의 선형방정식이 있는 선형시스템은 m×n 행렬과 m차원 벡터로 나타낼 수 있습니다.
예를 들어, 다음과 같은 선형시스템을 생각해봅시다.
2x+y=5
3x−2y=8
이 선형시스템은 다음과 같이 행렬과 벡터로 나타낼 수 있습니다.
[231−2][xy]=[58]
이처럼 행렬과 벡터를 이용하여 선형시스템을 간단하게 나타낼 수 있습니다. 이때, 선형시스템의 해는 주어진 행렬과 벡터에 대하여 변수들의 값을 구하는 것을 의미합니다.
행렬의 다양한 형태들은 선형시스템 및 선형변환의 언어로 기술되는 수학문제를 효율적으로 해결하는데, 큰 도움을 줍니다. 예를들어서, 삼각행렬 그리고 일반화된 역행렬은 선형시스템의 해를 효율적으로 구하는데 기여합니다.
이러한 행렬의 형태들은 선형 대수학의 중요한 개념으로서, 선형시스템과 선형변환을 이해하고 다루는 데 필수적인 도구들입니다. 이를 통해 다양한 문제를 해결하고, 수학적인 모델링과 분석에 활용할 수 있습니다.
기본행연산 그리고 RREF
선형시스템 = 첨가 행렬
다음과 같은 선형시스템을 예시로 들겠습니다:
2x+y=5
3x−2y=8
이제 이 선형시스템을 행렬과 벡터로 표현해보겠습니다.
A=[231−2],b=[58]
이때, 행렬
(A∣b)=[231−2∣∣58] 이 행렬 방정식의 첨가 행렬이라고 부릅니다.
기본행연산
선형시스템을 푸는 과정은 선형시스템의 해를 변화시키지 않으면서 새로운 선형시스템을 만드는 방법입니다. 이 과정에서 해집합이 변하지 않는다는 점이 가장 중요합니다.
기본행연산은 선형시스템의 첨가행렬에 적용하는 선형연산으로, 연립방정식을 푸는 과정을 나타냅니다. 기본행연산을 적용해도 첨가행렬이 나타내는 선형시스템의 해집합이 바뀌지 않습니다.
기본행연산에는 다음과 같은 세 가지 종류가 있습니다:
-
행의 교환: 두 개의 행을 서로 교환하는 연산입니다. 이 연산은 주어진 선형시스템의 방정식의 순서를 바꾸는 역할을 합니다.
-
행에 0이 아닌 상수를 곱하기: 이 연산은 주어진 선형시스템의 한 방정식에 상수배를 하는 역할을 합니다.
-
한 행에 다른 행의 상수배를 더하기: 이 연산은 주어진 선형시스템의 한 방정식에 다른 방정식의 상수배를 더하는 연산입니다. (여기서의 상수는 0이어도 됨). 주로, 더해지는 행의 특정 위치를 0으로 바꾸기위해서 사용됩니다.
가우스소거법과 기본행연산
다음과 같은 선형시스템을 해결하는 과정을 예시로 들어 봅시다.
2x+y=5
3x−2y=8
기본행연산을 적용하기 위해서, 첨가행렬 표현으로 바꾼뒤, 두 번째 행에서 첫 번째 행의 1.5배를 빼줍니다:
[231−2∣∣58]∼[201−3.5∣∣50.5]
다음으로, 첫 번째 행을 0.5배 해줍니다:
[201−3.5∣∣50.5]∼[100.5−3.5∣∣2.50.5]
이제 두 번째 행을 −2/7배 해줍니다:
[100.5−3.5∣∣2.50.5]∼[100.51∣∣2.5−1/7]
따라서, 이 선형시스템의 해집합은 원래의 선형시스템과 동일하며, 해는 두 번째 방정식부터 역순으로 풀어서 구할 수 있습니다. 먼저, 두 번째 방정식으로부터 y의 값을 구하고, 그 값을 첫 번째 방정식에 대입하여 x의 값을 구할 수 있습니다.
x +0.5y=2.5
0x+ y=−1/7
그리고 그 결과 x=18/7 그리고 y=−1/7를 첨가행렬로 표현하면 다음과 같습니다.
[1001∣∣18/7−1/7]
가우스 소거법
가우스 소거법은 선형대수학에서 연립일차방정식을 풀기 위한 알고리즘입니다. 이 알고리즘은 주어진 연립일차방정식을 첨가 행렬로 나타내고, 이를 단순화하여 미지수를 차례대로 소거하는 방법을 사용합니다.
가우스 소거법의 주요 단계는 다음과 같습니다:
1. 주어진 연립일차방정식을 첨가 행렬로 나타냅니다. 첨가 행렬은 계수 행렬과 우변 벡터를 합친 형태입니다.
2. 기본행 연산을 연속적으로 적용하여, 첨가 행렬을 RREF로 변환합니다.
3. RREF를 해석하여, 해집합을 명시적으로 나타냅니다.
가우스 소거법은 연립일차방정식을 간단하고 효율적으로 풀 수 있는 방법으로 널리 사용됩니다. 또한 가우스 소거법은 행렬식과 역행렬의 계산에도 응용되며, 선형대수학에서 중요한 개념으로 사용됩니다.
RREF의 정의
[201−3.5∣∣50.5]과 [201−3.5∣∣50.5]와 [100.51∣∣2.5−1/7]와 같은 행렬 형태를 우리는 REF(기약사다리꼴)이라고 부릅니다. 그리고 해집합 정보를 직접적으로 보여주는 다음과 같은 행렬 형태를 우리는 RREF라 부릅니다.
[1001∣∣18/7−1/7]
예를들어서 위의 RREF는 이 선형시스템의 해가 x=18/7, y=−1/7임을 보여줍니다.
직사각행렬(rectangular matrix)은 다음 세 성질을 가질 때 사다리꼴(echelon form) 또는 행사다리꼴(row echelon form)이라 한다: 1. 0이 아닌 모든 행은 성분이 모두 0인 행들 위에 항상 놓여 있다. 2. 각 행의 선행성분들은 그 행보다 위에 있는 행의 선행성분보다 오른쪽에 있는 열에 있다. 3. 선행성분 밑의 열의 성분들은 모두 0이다.
만약 사다리꼴 행렬이 다음 추가 조건을 만족한다면 기약사다리꼴(감소된 사다리꼴 reduced echelon form) 또는 기약행사다리꼴(감소된 행 사다리꼴 reduced row echelon form)이라 한다: 4. 0이 아닌 행의 선행성분은 1이다. 5. 각 선행성분 1은 그 열 안에서 0이 아닌 유일한 성분이다.
REF 형태로 행렬이 변환되면, 선형시스템의 해를 구하기가 훨씬 쉬워집니다. 그리고 그렇게 구한, 선형시스템의 해에 대한 정보는 RREF로 나타냅니다.
RREF는 기본행연산이 정의하는 가장 간단한 행렬입니다.
RREF에 대한 설명
모든 행렬은 언제나 기본행연산을 연속적으로 적용하여 기약행사다리꼴(Reduced Row Echelon Form, RREF)로 변환할 수 있습니다. 어떤 행렬이던지 그에 대응하는 RREF는 유일하게 존재합니다.
아래의 선형 시스템을 살펴봅시다:
⎩⎪⎪⎨⎪⎪⎧x+y+0=3x−y+2z=13x+y+2z=7
이 시스템은 다음과 같이 행렬 형태로 표현됩니다:
A=⎣⎢⎡1131−11022⎦⎥⎤,x=⎣⎢⎡xyz⎦⎥⎤,b=⎣⎢⎡317⎦⎥⎤
Ax=b
이제 확장된 행렬 [A∣b]를 RREF로 변환해보겠습니다:
[A∣b]=⎣⎢⎡1131−11022317⎦⎥⎤
적절한 기본행 연산을 수행하여 RREF를 얻습니다:
⎣⎢⎡1000101−10210⎦⎥⎤
이제 이 RREF를 통해 선형 시스템의 해를 표현하고, 이를 통해 자유 변수와 기본 변수를 식별해봅시다.
RREF의 해석:
RREF는 아래의 선형 시스템을 표현합니다:
⎩⎪⎪⎨⎪⎪⎧x+0+z=20+y−z=10+0+0=0
시스템의 해:
시스템의 해는 매개변수 t1에 대해 다음과 같이 표현됩니다:
⎣⎢⎡xyz⎦⎥⎤=⎣⎢⎡210⎦⎥⎤+t1⎣⎢⎡−111⎦⎥⎤
여기서 t1는 임의의 실수입니다. 즉, t1의 어떤 값에 대해서도 주어진 방정식을 만족하는 시스템의 해를 찾을 수 있습니다. 이 시스템은 무수히 많은 해를 가지고 있습니다.
자유 변수와 기본 변수:
'자유 변수'는 시스템의 방정식을 어기지 않고 어떤 값이라도 가질 수 있는 변수를 의미합니다. 예를 들어, 케이크를 만들 때 설탕의 양을 원하는 만큼 사용할 수 있다고 가정해 보세요. 이때 설탕의 양이 '자유 변수'에 해당합니다.
한편, '기본 변수'는 모든 자유 변수가 선택된 후에 그 값을 결정하는 변수를 의미합니다. 기본 변수는 시스템의 조건에 직접적으로 연결되어 있으므로, 자유롭게 변경할 수 없습니다. 케이크 굽기 예시를 다시 생각해보면, 레시피에서 설탕의 양에 비례하여 달걀의 개수가 필요하다고 합시다. 이때, 설탕의 양을 결정하면 달걀의 개수도 결정됩니다. 이런 상황에서 달걀의 개수는 '기본 변수'에 해당합니다.
'자유 변수'와 '기본 변수'는 해의 표현 방식과 깊게 연관되어 있는 용어입니다. '자유 변수와 기본 변수'들은 해의 표현방식에 의존적인 개념이라는 점을 기억해야 합니다. RREF와 관련지어서, 자유변수 기본변수를 처음 배울때, 자유 변수와 기본 변수라는 용어가 고정적인 의미를 가진다고 오해할 수 있지만, 사실 어떤 변수를 기본 변수라 부를지는 시스템이 아니라 해의 표현 방식에 따라 결정됩니다.
기약행사다리꼴(RREF)의 맥락에서, '자유 변수'와 '기본 변수'는 명확하게 정의됩니다. RREF에서 선행 성분 1이 있는 열과 대응하는 변수들은 '기본 변수'로 정의되고, 그 외의 변수들은 '자유 변수'로 정의됩니다.
그렇게 정의되는 이유는, 기약행사다리꼴은 곧, 선형시스템의 해의 특정 매개변수 표현과 직접적으로 대응되고, 그 매개변수표현의 맥락에서 무엇이 자유변수이고 무엇이 기본변수인지가 명확하기 때문입니다.
이를 명확하게 이해하기 위해, RREF와 그와 대응하는 매개변수 표현을 살펴봅시다.
⎣⎢⎡1000101−10210 ⎦⎥⎤,⎩⎪⎪⎨⎪⎪⎧x+0+z=20+y−z=10+0+0=0,⎣⎢⎡xyz⎦⎥⎤=⎣⎢⎡210⎦⎥⎤+t1⎣⎢⎡−111⎦⎥⎤.
여기서 변수 z가 다음과 같이 기술된다는 것을 확인할 수 있습니다.
z=t1
여기서, t1는 임의의 실수 값을 가질 수 있습니다.
우리 시스템에서 x와 y는 기본 변수입니다. 매개변수 t1의 값을 선택하면 x와 y의 값이 자동으로 결정되며, t1를 변경하지 않는 한 이들의 값은 변경할 수 없습니다.
해의 존재성 및 유일성
선형 시스템의 해가 존재하는지 여부는 중요한 문제입니다. 또한 해가 존재한다면 그 해가 유일한지, 아니면 무수히 많은지 판단하는 것도 중요합니다.
기약행사다리꼴(reduced row echelon form, RREF)을 이용하면 선형 시스템의 해가 존재하는지, 그리고 유일한지 아닌지를 쉽게 판별할 수 있습니다. RREF에 대한 몇 가지 기본적인 사실들을 이해하면 이러한 판별이 가능합니다.
- 선형 시스템의 해가 존재하지 않음: 첨가행렬의 RREF에서 모든 행에 대해 그중 하나라도 [0 ... 0 | 1] 형태를 가지면, 이 행은 불가능한 조건을 나타냅니다 (예: 0x+0y+0z = 1). 이런 경우, 선형 시스템은 해를 가질 수 없습니다. 예를 들어, 다음과 같은 확장 행렬이 있습니다:
⎣⎢⎢⎡100010230∣∣∣121⎦⎥⎥⎤
- 선형 시스템의 해가 존재함 : 만약 첨가행렬의 RREF의 모든 행이 [0 ... 0 | 1] 형태가 아니라면, 즉, 각 행의 선행 성분(가장 왼쪽의 1)이 확장된 행렬의 마지막 열(즉, 벡터 b)를 가리키지 않는다면, 선형 시스템은 해를 가질 수 있습니다. 예를 들어, 다음과 같은 확장 행렬이 있습니다:
⎣⎢⎡100010230∣∣∣120⎦⎥⎤, ⎣⎢⎢⎡100010001∣∣∣123⎦⎥⎥⎤
만약 해가 존재하면, 유일하거나 무한히 많습니다. 왜냐하면 자유변수가 존재하지 않다면 해가 유일하고, 자유 변수가 존재하는 경우, 자유 변수가 가질 수 있는 값이 무한히 많기 때문입니다.
이제, 해가 존재하는 경우를 분류해봅시다.
- 선형 시스템의 해가 무수히 많은 경우: 첨가행렬의 RREF에서 마지막 열과 마지막 열이 아닌 어떤 열 선행성분 1을 가지지 않으면, 선형 시스템의 해는 무수히 많습니다. 예를 들어, 다음과 같은 확장 행렬이 있습니다:
⎣⎢⎡100010230∣∣∣120⎦⎥⎤
- 선형 시스템의 해가 유일한 경우: 첨가행렬의 RREF에서 선행 성분 1이 모든 마지막을 제외한 열에 대해 존재하면 선형 시스템의 해는 유일합니다. 예를 들어, 다음과 같은 확장 행렬이 있습니다:
⎣⎢⎢⎡100010001∣∣∣123⎦⎥⎥⎤
피벗 위치와 피벗 열 (rref)
'피벗 위치'와 '피벗 열'은 기약행사다리꼴 행렬에서 중요한 역할을 하는 위치와 열을 나타내는 용어입니다.
피벗 위치는 RREF에서 각 행의 선행 성분이 위치한 곳을 말합니다. 예를 들어, 행렬
⎣⎢⎡1000101−10210⎦⎥⎤
에서 피벗 위치는 첫 번째 행의 첫 번째 위치와 두 번째 행의 두 번째 위치입니다.
피벗 열은 피벗 위치가 포함된 열을 말합니다. 위의 예에서 피벗 열은 첫 번째 열과 두 번째 열입니다. 그리고 피벗 열에 해당하는 변수들은 (해가 존재하지 않아도) 기본 변수라 부릅니다.
피벗 위치와 피벗 열 (general matrix)
선형 대수에서 '피벗 위치'와 '피벗 열'이라는 용어는 일반적인 행렬에 대해서도 정의됩니다. 이는 어떤 행렬 A에 대해서, 그에 대응하는 RREF가 유일하게 존재하기 때문입니다.
행렬 A에 대한 피벗 위치와 피벗 열을 찾으려면, 먼저 행렬 A를 그에 대응하는 RREF로 변환해야 합니다. 그 후, 각 행에서 선행 성분 1의 위치를 확인하고 이들이 속하는 열을 피벗 열로 식별하면 됩니다.
일반적인 행렬의 피벗 위치와 피벗 열은 행렬의 랭크라는 선형 대수의 개념과 깊게 연관되어 있습니다.
다시 요약하는 선형시스템의 해의 존재성 및 유일성
선형 시스템 Ax=b에서, 계수행렬 A와 첨가행렬 (A∣b)의 pivot정보를 종합하여 다음과 같이 해의 존재성 및 유일성에 대한 내용을 다시 기술 할 수 있습니다.
모든 선형 방정식 시스템은 0개, 1개 또는 무한개의 해를 가집니다.
- 해의 존재성 판별: 첨가 행렬의 (A∣b) 마지막 열 b가 피벗열이면, 해당 시스템은 해를 가지지 않습니다. 그리고, b가 피벗열이 아니면, 해당 시스템은 해를 가집니다.
- 유일한 해: 시스템이 유일한 해를 가지는 경우는 오직 계수 행렬A의 모든 열이 피벗 열이면서, 첨가 행렬의 (A∣b)의 b는 피벗 열이 아닌 경우입니다.
- 무수히 많은 해: 첨가 행렬의 (A∣b)의 b는 피벗 열이 아닌 시스템의 계수 행렬A에 대해서, A의 어떤 열이 피벗열이 아닌 경우, 그러한 열들에 해당하는 변수들이 자유 변수가 됩니다. 이때, 피벗열이 아닌 열의 개수는 이러한 무수히 많은 해들의 공간의 차원을 나타냅니다.
피벗의 진정한 의미
행렬의 랭크의 의미는 다양합니다. 그 행렬로 기술되는 계산의 '자유도'를 의미하기도 하고, 선형 방정식의 해의 자유변수의 수를 의미하기도 합니다. 행렬의 랭크를 이해하는 것은 선형 시스템의 이해, 회귀분석, 데이터의 차원 축소 등 다양한 분야에 필수적입니다. 그리고 RREF는 행렬의 랭크 및 열공간을 파악하는데 있어서, 매우 중요합니다.
-
열공간(Column Space): 선형 시스템에서 계수 행렬 A의 열공간은 A의 각 열벡터들의 선형결합으로 이루어진 공간을 의미합니다.
-
랭크(Rank): 행렬의 랭크는 행렬 A의 열공간의 차원을 의미합니다.
pivot의 개수 = Rank
예시로 아래와 같은 감소된 행 사다리꼴 형태의 행렬의 열공간을 생각해봅시다.
A=⎣⎢⎡100010340 ⎦⎥⎤, 이때 A의 열공간에 속하는 모든 벡터는 ⎣⎢⎡x1x20⎦⎥⎤형태입니다. 여기서, 우리는 A의 pivot열들의 개수가 2이며, 그들이 A의 열공간의 기저를 이루고 있음을 관찰 할 수 있습니다. 다시말해서, 행렬 A의 rank가 2라는 결론을 얻습니다. 이 사실은 일반적인 pivot열들의 개수가 r인 rref형태의 행렬 A에 대해서도 성립합니다. 왜냐하면, A가 RREF인 경우,
A의 열공간에 속하는 모든 벡터는 ⎣⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎡x1x2⋮xr0⋮0⎦⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎤ 형태로, A의 pivot열이 다음 ⎣⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎡1⋮000⋮0⎦⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎤, ..., ⎣⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎡0⋮010⋮0⎦⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎤같이 주어지기 때문입니다. 더 나아가서, 일반적으로 다음이 성립합니다.
요약: 만약 행렬 A의 pivot열들의 개수가 r개이면, 그들은 A의 열공간의 기저를 이루며, A의 Rank는 r입니다.
해석: 기본행연산은 행렬과 그 행렬의 열공간을 변경하지만, 피벗 위치는 변경하지 않습니다. 따라서 행렬의 랭크를 결정하는 피벗 열의 수는 기본행연산에대해 불변입니다. 이로 인해 행렬 A와 그 RREF는 동일한 RANK를 가집니다.
주의 : 흔히 오해하는 점 중 하나는 행렬 A와 그 행렬의 RREF가 동일한 열 공간을 가진다는 것입니다. 이는 틀린 주장입니다. 기본행연산을 적용할 때마다, 기본 행 연산을 적용하면 행렬의 피벗열이 바뀌고, 그 결과 피벗열이 생성하는 공간(열공간)도 바뀝니다. 깊게 말해서, 기본행연산을 적용하더라도 피벗 열의 위치와 그들이 (변화하는) 열공간의 기저를 형성한다는 사실이 변하지 않는다는 것이 정말로 행렬의 랭크가 피벗의 개수와 같은 이유입니다.