혼공머신 3주차입니다. #혼공학습단 #혼공 #혼공머신
✅혼자 공부하는 머신러닝+딥러닝
진도: Chapter 04
기본 미션: Ch04-1. 2번 문제 풀고 풀이 과정 설명하기
선택 미션: Ch04-2. 과대적합/과소적합 손코딩 코랩 화면 캡처하기
import numpy as np
import matplotlib.pyplot as plt
z = np.arange(-5, 5, 0.1)
phi = 1 / (1 + np.exp(-z))
plt.plot(z, phi)
plt.xlabel('z')
plt.ylabel('phi')
plt.show()
확률적 경사 하강법: 훈련 세트에서 샘플 하나씩 꺼내 손실 함수의 경사를 따라 최적의 모델을 찾는 알고리즘. 여러 개씩 뽑아 훈련하면 미니배치 경사 하강법, 전체 샘플 뽑아 사용하면 배치 경사 하강법.
에포크: 확률적 경사 하강법에서 전체 샘플을 모두 사용하는 한 번 반복을 의미. 일반적으로 경사 하강법 알고리즘은 수십에서 수백 번의 에포크를 반복.
에포크 횟수가 적으면 모델이 훈련 세트를 덜 학습, 과소적합된 모델이 될 가능성이 높다.
많은 횟수 동안 훈련한 모델은 훈련 세트에 너무 잘 맞아 테스트 세트에는 오히려 점수가 나쁜 과대적합된 모델일 가능성이 높다.
🙋♂️Q&A: 박해선 저자님의 github
💻유튜브 강의: 👉전체 강의 목록