
선형대수학(Linear Algebra)은 벡터(Vector)와 행렬(Matrix)이라는 도구를 사용하여 선형 방정식(Linear Equations)과 선형 변환(Linear Transformations)을 연구하는 학문입니다.
데이터의 집합입니다.연산자 역할을 합니다.① 데이터를 표현하는 효율적인 방법
머신러닝에서 다루는 데이터는 대부분 다차원입니다. 예를 들어, 흑백 이미지는 각 픽셀의 밝기 값을 가진 행렬로 표현되며, 사용자 정보(나이, 수입, 거주지 등)는 하나의 벡터로 표현됩니다. 선형대수학을 사용하면 수천, 수만개의 데이터를 하나의 기호로 묶어서 처리할 수 있습니다.
② 고차원 연산의 고속화 (병렬 연산)
머신러닝 모델(특히 딥러닝)은 수조번의 곱셈과 덧셈을 수행합니다. 선형대수학의 행렬 연산은 GPU(그래픽 처리 장치)를 활용한 병렬연산에 최적화되어 있습니다. 수만개의 연산을 하나씩 순차적으로 처리하는 대신, 행렬 곱셈을 통해 한꺼번에 계산함으로써 학습 속도를 획기적으로 높입니다.
③ 차원 축소와 특징 추출(PCA)
데이터가 너무 많거나 복잡하면 모델이 학습하기 어렵습니다. 선형대수학의 고유값 분해(Eigenvalue Decomposition)이나 특이값 분해(SVD) 기법을 사용하면, 데이터의 핵심 정보는 유지하면서 차원을 줄여 효율적인 학습이 가능합니다.
④ 최적화 문제 해결
머신러닝의 목표는 오차(Loss)를 최소화하는 가중치(W)를 찾는 것입니다. 이 과정에서 사용되는 경사하강법이나 정규 방정식 등은 모두 벡터의 미분과 선형 연산을 기반으로 합니다.