머신러닝 기초1 - ANN

Deep Learning

• Artificial Neural Network (ANN)
• Convolutional Neural Network (CNN)
• Recurrent Neural Network (RNN)

Deep Q Network (DQN)

• Q-Learning
• Deep Q Network
• Deep Q Network 확장 기법

Deep Deterministic Policy Gradient (DDPG)

AI & ML & DL

AI (Artificial Intelligence)

• 인간의 학습능력과 추론능력, 지각능력, 자연언어의 이해 능력 등 컴퓨터 프로그램으로 실현한 기술

ML (Machine Learning)

• 인간의 학습능력과 같은 기능을 컴퓨터에서 실현하고자 하는 기술 및 기법
• "학습", 데이터 기반으로 알고리즘이 스스로 학습

DL (Deep Learning)

• 다층 구조 형태 신경망, 다양의 데이터로부터 높은 수준의 추상화 모델을 구축하고자 하는 기법

ML 학습방법

지도 학습

• 정답이 있는 데이터 이용
• 분류문제, 회귀문제

비지도 학습

• 정답 모름, 데이터 특징만을 이용하여 학습
• 클러스터링

강화 학습

• 보상을 통해 학습 수행
• 행동을 통한 명확한 보상을 줄 수 있는 곳, 게임 등

Deep Learning

• 알고리즘, GPU(큰 행렬 연산을 위해), Big Data(많은 데이터 -> 좋은 학습)의 발전으로 같이 발전
• 손 글씨 인식, 표지판 인식, 텍스트 생성 등

ANN

• 사람의 뇌와 유사한 방법으로 정보 처리

• 뉴런을 모밥한 기본 단위 집합으로 구성

• 원하는 값 학습 -> 가중히 w, 편향 b 학습하는 것

• 가중치 학습하는 것 중 가장 많이 사용하는 ReLU
  y = x if x >=0
  y = 0 if x < 0

• 입력층, 은닉층, 출력층
  -> forward Propagation
  결과와 이미 알고 있는 Target값과 비교
  <- BackPropagation (은닉층에 가중치들 학습 실행하게 된다)

  => 정답과 유사하게 학습

• 이때, 출력값과 정답을 비교할때 사용하는 것 : loss 학습
  => loss 함수를 최소화 하도록 weight, bias를 학습하는 것이 목표!!

• Underfitting : 학습이 부족하여 제대로 된 예측 수행 x
  Good fitting : 적절하게 학습 수행
  Overfitting : 과도하게 학습이 수행, training set에 대해서는 좋은 예측이지만 처음 보는 데이터에는 나쁜 성능
  

• Dropout
  -> overfitting 방지하는 기법 중 하나, 특정 확률에 따라 뉴런을 0으로 만들어서 네트워크에 변화 줌
  

ANN 문제점

• input이 살짝만 바껴도 다른 input으로 인식한다.
• 모든 데이터 대응하기 위해 많은 데이터 필요
• 학습 시간 많이 걸리고 성능도 제한적