아래는 딥러닝의 핵심 개념 9가지를 보기 좋게 정리한 마크다운(Markdown) 형식의 요약입니다. 추후 파이썬과 TensorFlow를 다룰 때 참고하기 좋도록 간단한 설명과 함께 정리했습니다.
🧠 딥러닝 핵심 개념 요약 정리
1. ✅ TensorFlow 사용자 정의 모델
class MyModel(tf.keras.Model):
def __init__(self):
super().__init__()
self.dense = tf.keras.layers.Dense(10)
def call(self, inputs):
return self.dense(inputs)
2. 📦 다차원 배열: 텐서 (Tensor)
- 딥러닝에서는 데이터 = 텐서
- 스칼라(0D), 벡터(1D), 행렬(2D), 이미지(3D), 미니배치(4D) 등
tf.constant, tf.Tensor, numpy.array 등으로 생성 가능
3. 🎯 출력층 설계
- 문제의 종류에 따라 출력층과 활성화 함수가 다르다
| 문제 유형 | 출력층 노드 수 | 활성화 함수 | 손실 함수 |
|-----------|----------------|----------------|-------------------------|
| 이진 분류 | 1 | sigmoid | BinaryCrossentropy |
| 다중 분류 | 클래스 수 | softmax | SparseCategoricalCrossentropy |
| 회귀 문제 | 1 | 없음 또는 linear | MeanSquaredError (MSE) |
4. ⚖️ 손실 함수 (Loss Function)
-
모델이 얼마나 틀렸는지 수치화
-
자주 쓰는 손실 함수
- 이진 분류:
BinaryCrossentropy
- 다중 분류:
SparseCategoricalCrossentropy
- 회귀:
MeanSquaredError (MSE)
5. 📉 수치 미분 (Numerical Differentiation)
6. 📐 기울기 (Gradient)
- 손실 함수의 변화율
- 기울기의 방향 = 손실 줄이는 방향
| 기울기 부호 | 해야 할 일 |
|-------------|-----------------------|
| 음수 (-) | 파라미터 증가 |
| 양수 (+) | 파라미터 감소 |
7. 🔁 오차역전파법 (Backpropagation)
8. 🧮 최적화 함수 (Optimizer)
- 기울기를 바탕으로 가중치 업데이트
| Optimizer | 특징 |
|-----------|------|
| SGD | 확률적 경사하강법, 기본형 |
| Adam | 모멘텀 + RMSProp 결합, 가장 널리 사용 |
| RMSprop | 지수 평균 기반 가중치 조정 |
| Adagrad | 희소한 데이터에 적합 |
9. 👁️ 컴퓨터 비전 (Computer Vision)
- 이미지와 영상 데이터를 처리하는 분야
- 딥러닝에서는 CNN (Convolutional Neural Network) 사용
- 주요 용도: 객체 인식, 얼굴 인식, 자율주행 등
필요하시면 위 개념들 중 하나를 파이썬 코드와 함께 더 깊이 설명해드릴게요.
어떤 개념부터 자세히 보고 싶으신가요?