인공지능 수학

가우스 소거법

---

• 가우스 소거법

  가우스 소거법은 임의의 M*n선형시스템의 해를 구하는 가장 대표적인 방법이다.

두단계로 수행
1.Forward elimination(전방소거법): 주어진 선형 시스템을 아래로 갈수록 더 단순한 혀애의 선형방정식을 가지도록 변형한다.
2.back_substitution(후방 임대법): 아래에서부터 위로 미지수를 실제값으로 대체한다.

전방소거법
1번인 전방 소거법이 특히 중요하다.

전방소거법 장점

• 주어진 선형시스템을 가장 풀기쉬운 꼴로 변형해준다.
• 주어진 선형시스템의 rank를 알려준다.
• 선형시스템의 해가 있는지 해가 없는지 알려준다.

LU분해

---

주어진 행렬을 아래의 형태를 가지는 두 행렬의 곱으로 나누는 행렬분해

LU분해는 간단하게 밑에와 같은 선형 시스템으로 나타낸다.
A=L*U
여기서 L 은 하삼각행렬, U는 상삼각 행렬이다.

LU분해의 장점

선형시스템을 전방대치법과 후방대치법 두 단계로 간단히 해결할 수 있다.

위의 LU분해에서 적절한 행 또는 열 교환이 필요한 경우, 치환행렬 P를 추가하게 되며 PA = LU 의 형태를 띈다.

L : 행렬A를 전방소거하는데 쓰인 replacement와 scaling에 대한 EROs를 기록해 둔 행렬
U : 행렬A를 전방소거한 후 남은 상삼각행렬
P : 행렬 A를 전방소거하는데 쓰인 interchange에 대한 EROs를 기록해 둔 행렬(옵션)

LU분해의 활용

• 수치적 안정성 : 선형시스템의 해를 역행렬을 이용해 구하는것보다 좀더 수치적으로 안정적이다.
• b가 자주 업데이트 되는 경우 : 선형시스템 Ax = b에서 행렬 A는 고정되어 있고 b가 자주 업데이트 될 때마다 선형시스템의 해x를 실시간으로 구할 수 있다.

행열 연산과 선형조합

---

행렬은 직사각형 구조에 숫자들을 담아놓은 구조
행이 하나인 경우 행벡터, 열이 하나인 경우 열벡터라고 한다.

여러 행렬의 종류가 있는데 대표적인 것을 설명하려고 한다.
1. 전치행렬
mn행렬 A에 대한 전치행렬은 A위 행을 열로 열을 행으로 가지는 nm 행렬이다.

2. 정방행렬
   행과 열의 개수가 모두 n인 정사각형 모양의 행렬을 n차 정방행렬 이라고 한다.

3. 항등행렬
   항등행렬 주대각선이 1이고 나머지 요소는 모두 0인 n차 정방행렬

행렬의 곱

[출처: 위키피디아]

행렬 C의 각 요소는 A행렬의 행벡터 B행렬의 열벡터의 내적이다.
교환법칙은 적용이 안되고 A의 열 개수 B의 행개수와 일치해야한다.
행렬의 곱은 병렬처리로 가속할 수 있다.

선형 조합

행렬을 구조적으로 바라보는 가장 효과적인 방법은 열벡터의 리스트 형태로 바라보는 것이다.

예시
Ax는 행렬 A가 가지고 있는 열벡터의 선형조합이다.

이처럼 벡터들에 대한 가중치 합을 선형조합이라고 한다.

행렬A의 열벡터들에 대한 가능한 모든 선형조합의 결과를 모아 집합으로 구성 한 집합을 열공간 이라하고 col(A)라고 표기한다.
선형시스템 Ax = b가 해를 가지면 b가 col(A)에 포함되고 해가 없으면 포함되지 않는다.

좌표계 변환

---

좌표계 변환

행렬은 좌표계이고 벡터는 좌표값이다.
임의의 벡터는 다양한 좌표계에서 표현될 수 있다.
Ax = Ib 이 행렬식에서 A,I는 좌표계 , x,b는 좌표값이라고 할 수 있다.

예제 2차원 벡터 v가 표준좌표계에서 (2,3)으로 표현된다고 합시다
벡터(3,1)과(1,-2)를기저벡터로 가지는 새로운 좌표계를 도입했을 때 v는 어떤 좌표값을 가지는가

기저벡터 두개를 열벡터로 하는 행열을 A 벡터 v를 b라고 했을 때
정답은 (2,-2)가 나온다.

---

끝~!