Today I Learned

오늘은 6주차 딥러닝 기본 용어에 대해 배웠다.

딥러닝

• good deep learner?
  Implementation Skills, Math Skills, Knowing a lot of recent Papers

• deep learning?
  Neural Networks를 통해 학습하는 Machine Learning 기법

key 구성요소

• 딥러닝 논문을 볼 때 다음의 4가지 요소를 중점적으로 보면 이해하기 좋다.

1. Data

딥러닝 모델을 학습시키기 위해서는 대량의 데이터가 필요하다.
데이터는 모델이 학습할 수 있는 입력과 이에 대응하는 출력(레이블)을 포함한다.
데이터의 질과 양이 모델의 성능에 크게 영향을 미친다.

• 데이터는 어떤 문제를 해결하고자 하는 지에 달려있다.
  classification, semantic segmentation, detection, pose estimation, visual QnA 등

2. Model

모델은 딥러닝의 핵심으로, 주로 신경망 구조를 사용한다.
이 신경망은 여러 층의 뉴런으로 구성되며, 각 층은 입력 데이터를 점진적으로 추상화하여 최종 출력에 도달한다.
모델의 구조(레이어의 수, 각 레이어의 노드 수 등)는 문제의 종류와 데이터의 특성에 따라 달라진다.

• AlexNet, GoogLeNet, ResNEt, DenseNet, LSTM, Deep AutoEncoders, GAN 등

3. Loss Function

손실 함수는 모델의 예측값과 실제 값 사이의 차이를 측정하는 함수다.
손실 함수는 모델과 데이터가 정해져있을 때, 이 모델을 어떻게 학습할 지에 대한 것이다.
회귀에서 사용되는 평균 제곱 오차(MSE), 분류 문제에서 사용되는 교차 엔트로피(Cross-Entropy, CE), 확률에서 사용하는 MLE 등이 있다.

4. Optimization Algorithm

최적화 알고리즘은 앞의 3가지 요소가 정해져 있을 때, 손실 함수를 최소화하기 위해 모델의 가중치들을 어떻게 조정할지를 결정하는 방법이다.
확률적 경사 하강법(SGD)과 이를 개선한 다양한 변형 알고리즘(Adam, RMSprop) 등이 있다. 최적화 알고리즘은 모델이 효과적으로 학습하고 손실을 줄이는 데 중요한 역할을 한다.

본 포스트의 학습 내용은 부스트클래스 <AI 엔지니어 기초 다지기 : 부스트캠프 AI Tech 준비과정> 강의 내용을 바탕으로 작성되었습니다.