Deep learning review #1

갱갱·2025년 2월 9일

ZB_DeepLearning

목록 보기
11/12
post-thumbnail

2025.02.09

Chapter 04. Review of Deeplearning

  • 27. 기본개념 - AI, ML, DL
  • 28. 기본개념 - 딥러닝의 역사
  • 29. 기본개념 - 딥러닝의 대중화
  • 30. 기본개념 - 뉴런과 회귀 그리고 분류




기본개념 - AI, ML, DL

그림출처 : https://velog.io/@deep-of-machine/

  • 인공지능 (AI) - 기계가 사람의 행동을 모방하는 기술
  • 기계학습 (ML) - 기계가 일일이 코드로 명시하지 않은 동작을 데이터로부터 학습하여 실행할 수 있도록 하는 알고리즘을 개발하는 연구분야
  • 딥러닝 (DL) - 기계 학습의 한 분야인 인공 신경망에 기반하여, 많은 양의 데이터를 학습해 뛰어난 성능을 이끌어내는 연구분야

다만, 현업에서.. ML 과 DL은 분리하는 과정이다.




딥러닝은 왜 특별한가 ??

ML은 특징은 사람이 찾아서 정하고, 그 특징에 따른 라벨을 학습한다.
DL은 그 특징조차도 딥러닝에서 찾도록 한다.




딥러닝으로 할 수 있는것은 ??

이 중에서 가장 두각을 나타내는 것은 Object Detection 분야이다.





기본개념 - 딥러닝의 역사

딥러닝의 구성요소란 ??




딥러닝의 역사

  • 퍼셉트론, 뉴런 하나는 결국 직선을 만드는 것이다.
  • 하지만 하나의 직선으로는 XOR 문제를 해결할 수 없었다. 다수의 직선이 필요했다.


다층 퍼셉트론. XOR 문제를 해결하기 위한 방법 도출

  • CNN의 개념등장 및 필기숫자 인식 문제 해결 (MNIST)
  • 단 계층이 깊어질수록 학습이 어려운 기울기 소실 (Vanishing Gradiant) 문제 등장




기본개념 - 딥러닝의 대중화

이미지넷 경연대회 → LmageNet Large Scale Visual Recognition Challenges

  • 2012년도부터 딥러닝 모델이 우승하기 시작함.
  • GPU를 병렬로 사용함.
  • 그 후 Framework 등장.






기본개념 - 뉴런과 회귀 그리고 분류

뉴런의 표현과 신경망

뉴런의 표현

  • 뉴런은 입력(INPUT)이 있고 합치고 활성함수를 거쳐 출력(OUTPUT)을 내놓는다.


  • Fully - Connected layer
    하나의 Node가 그 다음 layer의 모든 Node와 연결되는 것.
    FC 혹은 Dense Layer라고 함.



  • 얇은 신경망
    입력, 은닉, 출력의 3가지 계층으로 이루어진 것.





회귀와 분류

  • 회귀문제
    연속된 값의 출력을 추정하는 것. 또한 연속되지 않은 데이터를 연속한 것 처럼 모델링 하는 것
    즉, 데이터를 표현하는 대표적인 선(추세선)을 찾는 문제



  • 분류
    데이터를 구분하는 경계선을 찾는 문제





출력 - Output

  • Output layer - 회귀문제

  • 만약 회귀문제라면, 회귀는 연속된 출력값을 Return해야 하므로, 통상 항등함수(Identity function)를 활성화함수로 사용한다. 즉, y=xy=x이므로 활성화 함수를 적용하지 않으면 된다.


  • Output layer - 0과 1을 구분하는 이진분류

  • 이진분류이므로 출력층은 하나만 존재한다. 0 또는 1.
  • 또한 활성화 함수로 Sigmoid Function(0과 1사이 값)을 사용
  • 0.5를 기준으로 큰 값은 1, 작은값은 0


  • Output layer - 다중 분류

  • SoftMax 함수를 활성함수로 사용.
  • 각 출력값은 해당 Class에 속할 확률을 의미
profile
(hellow. world)

0개의 댓글