Degradation Problem을 해결하기 위해서 Residual Learning이라는 개념이 등장했습니다.
회귀문제에서는 RSS, MSE, MAE 등이 있다. 분류 문제에서는 Precision, Recall, F1 score 등이 있다.
엔트로피는 주어진 데이터 집합의 혼잡도를 의미한다. 정보이득이란 어떤 속성을 선택함으로 인해 데이터를 더 잘 구분하게 되는 것을 말한다.
딥러닝 학습에 있어 가중치를 잘못 설정할 경우 기울시 소실 문제나 표현력의 한계를 갖는 등 여러 문제를 야기할 수 있기 때문에 초기 가중치 설정은 매우 중요하다.
Pytorch와 TensorFlow 둘 다 프레임 워크다.컴퓨터 프로그래밍에서 소프트웨어 프레임워크는 복잡한 문제를 해결하거나 서술하는 데 사용되는 기본 개념 구조이다.