Intro

신경망을 위한 Drop out 정규화

드랍아웃 방식은 과대적합이 발생하기 쉬운 딥러닝 구조에서 이를 방지할 수 있는 정규화 기법의 하나이다. 작동방식은 레이어의 사이 마다 드랍아웃을 실행해 훈련이 반복되는 과정에서 무작위로선택된 뉴런을 무시하는 기술이다.

장단점

신경망의 과적합을 방지하는데 도움을 준다. 하지만 드랍아웃 층과 배치 정규화 층은 모두 정규화 기능을 포함하고 있으므로 두 가지 층을 같이 사용한다면 오히려 학습 성능이 좋지 않을 수 있다.

• 드랍아웃 적용 전
  

• 드랍아웃 적용 후
  

드랍아웃은 앙상블과 그 목적이 비슷하다.