부스트캠프 2주차 정리

ML LifeCycle

머신러닝(ML) 라이프사이클은 데이터 수집, 데이터 전처리, 모델 선택, 모델 학습, 모델 평가, 그리고 배포 단계를 포함한다. 배포 후에도 모델이 잘 작동하는지 모니터링하고 필요에 따라 업데이트를 진행하도록 한다.

Regression and NN Classifier

회귀(Regression)는 연속적인 숫자 값을 예측하는 작업으로,
예를 들어, 주택 가격 예측, 직장인의 월급 예측 등이 이 이에 해당한다.

신경망 분류기(NN Classifier)는 주어진 입력 데이터에 대해 특정 클래스로 분류하는 작업을 수행한다. 이미지를 보고 개와 고양이를 구분하거나, 붓꽃 이미지를 분류하는 작업 등이 이에 해당한다.

Backpropagation

신경망에서 학습은 가중치라는 값들을 조정하면서 이루어진다. 가중치는 신경망이 주어진 입력 데이터로부터 올바른 출력을 만들기 위해 조정해야 하는 변수를 말한다.

순전파(Forward Propagation):

입력 데이터를 신경망에 넣으면, 이 데이터는 각 층을 통과하면서 점점 더 복잡한 처리를 거친다. 마지막에는 신경망이 예측한 출력이 나타난다.
이때 출력이 실제값과 얼마나 차이가 나는지를 계산해서 오류(Error)를 구한다.

역전파

신경망이 오류를 어떻게 줄일 수 있을지를 계산하는 과정이다.
연쇄법칙을 사용하게 되는데, 출력에서부터 입력 쪽으로 거슬러 올라가면서 어디에서 문제가 발생했는지를 알아내는 과정이다.

오류의 전파:

출력에서 발생한 오류를 각 층으로 역으로 전달하면서, 각 가중치가 얼마나 오류에 영향을 미쳤는지를 따져본다.
이 과정에서, 각 가중치가 어느 정도로 잘못되었는지(즉, 출력 오류에 기여했는지)를 파악하고, 이를 바탕으로 가중치를 조금씩 수정한다.

가중치 업데이트:
최종적으로, 오류를 줄이기 위해 가중치를 조금씩 조정하며, 이 조정 과정이 잘 이루어지면, 신경망은 다음번에는 좀 더 정확한 예측을 할 수 있게 된다.
요약하면, 역전파는 신경망이 잘못된 부분을 찾아내고, 이를 수정하기 위해 가중치를 조정하는 방법이다. 이를 통해 신경망은 점점 더 정확하게 예측할 수 있게 된다.