Zero to 머신러닝 딥러닝 Master

수학을 놓았던 비전공자가 AI를 직접 구현하기까지의 공부 기록. 수포자 훑어보기→ML 수학→파이썬→머신러닝→딥러닝·LLM·RAG까지 5권 163절 독학 로드맵과 목적별 학습 트랙, 완주 전략 7가지, 파이썬 NumPy 환경 점검 코드를 한 번에 정리했습니다.

벡터는 '순서가 있는 숫자 목록'입니다. 장바구니·택배 상자·영화 취향 비유로 벡터의 덧셈·스칼라 곱·Norm·내적·코사인 유사도를 배우고, 파이썬 NumPy 코드로 영화 추천의 원리와 벡터화 속도 차이까지 직접 확인합니다.

성적표는 곧 행렬입니다. 행렬의 shape(몇 행 몇 열?)를 읽는 법, 우리 주변의 행렬들, '행과 열을 짝지어 내적한다'는 행렬 곱셈의 패턴, 행렬에 나눗셈 대신 역행렬이 필요한 이유를 파이썬 NumPy 코드와 함께 정리했습니다.

완벽한 답이 없을 때 최선의 답을 찾는 최소제곱법. 과결정계, 오차를 제곱하는 세 가지 이유, 직교 조건으로 정규방정식을 유도하고 데이터 3개로 손계산한 뒤 파이썬 NumPy lstsq로 검증합니다. 선형회귀가 왜 머신러닝의 첫 모델인지도 정리했습니다.

미분은 '지금 이 순간의 변화 속도'입니다. 극한으로 정의한 미분, 전진차분과 중심차분 수치미분, 미분 공식과 연쇄법칙, 역전파의 원리, 편미분과 그래디언트까지 파이썬 NumPy 코드로 손계산을 검산하며 정리한 딥러닝 수학 1부입니다.

경사하강법 x ← x − η·f'(x) 한 줄이 AI 학습의 전부입니다. 학습률에 따른 수렴·진동·발산, 발산 조건 유도, 2변수 경사하강법, 선형회귀 학습, PyTorch·TensorFlow·JAX 자동미분과 모멘텀까지 파이썬 코드로 정리한 딥러닝 수학 2부입니다.

정확도 99% 검사에서 양성이 나와도 실제 환자일 확률은 1.94%? 확률의 정의와 대수의 법칙, 분모를 좁히는 조건부 확률과 독립, 베이즈 정리와 반복 갱신까지 병원 검사 비유와 파이썬 시뮬레이션으로 쉽게 정리한 머신러닝 확률 1부입니다.

AI 분류기는 소프트맥스로 확률을 내고 교차 엔트로피로 채점합니다. 정규분포와 z-점수, 68-95-99.7 규칙, 중심극한정리, 소프트맥스의 max 빼기 안전장치, 교차 엔트로피 기울기 ŷ−y, 나이브 베이즈 스팸 필터까지 파이썬으로 정리했습니다.

SVD는 300페이지 소설을 핵심 줄거리만 남겨 3페이지로 요약하는 기술입니다. 고유벡터와 고유값, 특성방정식, SVD와 랭크-k 근사, 에카르트–영 정리, 공분산 고유분해와 SVD로 구하는 PCA까지 파이썬 NumPy 코드로 검증하며 정리했습니다.

99%가 비어 있는 평점 행렬을 SVD로 채워 넷플릭스식 추천을 만들고, 벡터·행렬·최소제곱·미분·확률·SVD 여섯 재료를 총동원해 NumPy만으로 XOR을 푸는 미니 신경망을 학습시킵니다. 00권 수포자 수학의 총정리편입니다.

model.fit() 한 줄로 AI를 돌리는 건 라면 끓이기입니다. 손실이 nan이 될 때 원인을 알려면 수학이 필요합니다. 라면과 자동차 비유로 본 학습 로드맵, 파이썬·NumPy 환경 점검, 벡터부터 SVD까지 여섯 장을 20줄 코드로 맛봅니다.

머신러닝 수식이 어려운 진짜 이유는 처음 보는 기호입니다. 그리스 문자 26개와 연산 기호 22개 사전, 첨자·햇·노름·아그맥스 읽기 규칙 10가지, 경사하강법·손실함수·확률·활성함수·정규화 공식 50개를 소리 내어 읽고 파이썬 코드와 짝지어 봅니다.

ML 공식 100선 2부입니다. 내적·행렬 곱 같은 선형대수, 엔트로피·KL 발산·거리 같은 정보이론, 스케일드 닷 프로덕트 어텐션과 트랜스포머, 강화학습 벨만 방정식, 평가지표와 생성모델 공식 50개를 소리 내어 읽고 파이썬 코드와 짝지은 뒤 연습문제로 점검합니다.

'그냥 3km'와 '북쪽으로 3km'의 차이가 스칼라와 벡터의 차이입니다. 벡터 표기법과 노름, 덧셈·뺄셈·스칼라 곱의 기하학적 의미, 내적의 두 얼굴과 코사인 유사도, '왕 − 남자 + 여자' 단어 벡터 계산까지 파이썬 NumPy로 확인합니다.

행렬은 데이터를 담는 표이면서, 벡터를 넣으면 벡터가 나오는 함수입니다. 행렬 × 벡터를 행 내적과 열 가중합으로 읽는 법, 행렬 곱이 변환의 합성인 이유와 AB ≠ BA, 연립방정식·역행렬·전치, 신경망 순전파의 배치와 shape 설계까지 NumPy로 확인합니다.

내적은 숫자 하나, 벡터 외적은 수직 벡터, 외적(outer)은 행렬을 돌려줍니다. 내적이 길이에 속는 함정과 코사인 유사도, S = XXᵀ 유사도 행렬로 영화 추천하기, ChatGPT 어텐션 QKᵀ와 softmax까지 파이썬 NumPy로 직접 계산합니다.

텐서는 숫자를 몇 겹으로 포장했는가입니다. 스프링·풍선·강체 회전으로 2차 텐서가 필요한 이유를 보고, rank와 shape의 차이, 컬러 이미지와 배치가 3·4차원 텐서인 이유, reshape와 PyTorch 자동 미분까지 NumPy·PyTorch로 직접 확인합니다.

연립방정식은 Ax = b, 해가 하나인지는 행렬식 숫자 하나로 판정합니다. 평행한 두 직선과 det(A) = ad − bc, det(A) = 0이면 역행렬이 없는 이유를 넓이로 이해하고, NumPy로 Singular matrix 오류와 부동소수점 오차까지 확인합니다.

연립방정식을 푸는 모든 방법의 목적은 미지수 소거입니다. 직선과 원의 1차-2차 연립방정식을 대입법으로 풀고, 해가 0·1·2쌍인 이유를 그래프의 교점으로 읽은 뒤, 2차-2차 연립을 인수분해로 쪼개 최대 4쌍의 해를 파이썬 SymPy로 검산합니다.

행렬식은 정사각행렬을 숫자 하나로 압축해 넓이·부피가 몇 배로 변하는지 알려 줍니다. 2×2 공식 ad − bc와 평행사변형 넓이, 3×3 사러스 법칙과 여인수 전개, 기본행연산 규칙과 det(AB) = det(A)det(B)를 NumPy로 확인합니다.

역행렬은 곱하면 단위행렬 I가 되는 행렬입니다. 가우스-조던으로 [A|I]→[I|A⁻¹]을 만들고, 2×2 행렬식·수반행렬 공식, 특이행렬(det=0), (AB)⁻¹=B⁻¹A⁻¹까지 NumPy·SymPy로 확인합니다.

행렬을 곱해도 방향이 그대로인 고유벡터와 배율 고유값을 특성방정식 det(A − λI) = 0으로 직접 구하고, 대각화 A = PDP⁻¹와 SVD A = UΣVᵀ, PCA 연결까지 NumPy로 확인합니다.

딥러닝은 함수를 여러 겹 합성한 것입니다. 합성함수 g(f(x))의 순서, 활성화 함수 없이는 몇 층을 쌓아도 선형인 이유, 연쇄법칙과 역전파, sigmoid의 기울기 소실과 ReLU 해법까지 파이썬 NumPy로 확인합니다.

미분은 '지금 이 순간 얼마나 빠르게 변하나'를 재는 도구입니다. 계단 기울기에서 출발해 순간 변화율과 극한, 거듭제곱 미분 규칙, 학습률에 따라 달라지는 경사하강법까지 파이썬으로 확인합니다.

편미분은 다른 변수를 잠시 고정하고 한 방향의 기울기만 재는 미분입니다. 편미분을 모은 그래디언트 ∇f가 왜 가장 가파른 오르막인지 방향도함수로 확인하고, 그 반대로 걷는 경사하강법을 NumPy로 구현합니다.

경사하강법의 방향은 수학이 정하지만 보폭은 사람이 정합니다. 학습률에 따른 수렴·진동·발산을 계산과 NumPy로 재현하고, 지역 최솟값·안장점의 함정과 100만 차원 신경망 학습까지 이어 봅니다.

적분은 높이 f(x)에 폭 dx를 곱한 조각을 전부 더하는 계산입니다. 시그마·극한·기호 읽기부터 리만 합으로 ∫x dx = 1/2을 손으로 유도하고, 미적분학의 기본정리와 미분 검산을 SymPy로 확인합니다.

확률밀도함수 아래 넓이가 확률이고, 값 × 무게를 적분한 것이 기댓값입니다. 리만 합과 사다리꼴 공식을 NumPy로 구현해 오차가 줄어드는 모습을 확인하고, 몬테카를로 근사와 KL 발산·ELBO까지 이어 봅니다.

머신러닝 데이터셋은 언제나 표본입니다. 모집단과 표본, 확률변수와 기댓값부터 평균·중앙값, 분산·표준편차와 n−1로 나누는 이유(ddof), 공분산·상관계수·공분산 행렬과 PCA, 왜도·첨도와 로그 변환까지 NumPy·SciPy로 직접 계산합니다.

분류 출력층의 베르누이·소프트맥스, 오차의 언어인 정규분포, 증거로 믿음을 갱신하는 베이즈 정리, 모든 손실 함수의 뿌리인 MLE, 그리고 가설검정·p값·신뢰구간과 데이터 진단 파이프라인까지 NumPy·SciPy로 확인합니다.

벡터·행렬·함수·미분·확률통계가 신경망에서 각각 맡는 역할을 건물 비유로 정리하고, 학습 5단계(순전파→손실→역전파→업데이트→반복)를 수식·손계산·시각화로 이어서 봅니다. XOR 미니 신경망 코드는 2부에서 완성합니다.

XOR을 푸는 60줄 미니 신경망으로 순전파·손실·역전파·업데이트를 한 줄씩 수식에 대응시키고, 여섯 가지 흔한 오해를 바로잡은 뒤 GPT·CNN·확산 모델·추천 시스템과 NumPy→PyTorch 대응표로 01권을 마무리합니다.

딥러닝 책에 왜 파이썬 문법부터 나올까요? 02권 헬로 파이썬의 지도입니다. 변수는 이름표라는 한 문장, 레고 비유로 본 자료형·함수·클래스·NumPy, A~AG 단원이 딥러닝 어디에 쓰이는지, 9개 장의 코드 폴더와 첫 실행 코드까지 정리했습니다.

파이썬은 느린 언어인데 왜 AI의 표준이 됐을까요? 1989년 크리스마스 취미 프로젝트에서 시작된 탄생 이야기, Zen of Python과 5대 특징, Colab·python.org·Anaconda 설치 비교, PATH·pip·venv와 첫 코드 실행까지 정리했습니다.

파이썬의 =는 복사가 아니라 이름표 붙이기입니다. 숫자는 그대로인데 리스트는 같이 바뀌는 이유, int·float·str과 연산자, list·tuple·dict·set을 고르는 기준, 문자열 슬라이싱, 형변환과 초보자 3대 에러까지 코드로 정리했습니다.

파이썬 if·elif·else로 갈림길을 고르고, for·while·continue·break로 반복의 흐름을 다루며, 리스트·딕셔너리 컴프리헨션으로 묶어쓰기와 풀어쓰기를 오갑니다. ReLU·조기 종료·에폭 루프가 바로 이 문법에서 시작됩니다.