batch
모델의 가중치를 한 번 업데이트 시킬 때 사용되는 훈련 샘플들의 묶음
batch size
하나의 배치에 포함되는 샘플의 수
배치 사이즈가 너무 크면 학습 속도가 느려지고 너무 작으면 각 실행값의 편차가 생겨 전체 결과값이 불안정 해질 수 있다.
배치 사이즈는 학습 효율에 큰 영향을 준다. 따라서 배치 사이즈를 바꿔가면서 언제 모델이 가장 효율적으로 훈련되는지를 살펴볼 필요가 있다.
epoch
모든 훈련 데이터 셋에 대한 학습의 횟수
iteration
하나의 배치에 대한 학습 횟수