아래는 딥러닝의 핵심 개념 9가지를 보기 좋게 정리한 마크다운(Markdown) 형식의 요약입니다. 추후 파이썬과 TensorFlow를 다룰 때 참고하기 좋도록 간단한 설명과 함께 정리했습니다.


🧠 딥러닝 핵심 개념 요약 정리

1. ✅ TensorFlow 사용자 정의 모델

  • tf.keras.Model 클래스를 상속해서 모델을 직접 구현할 수 있다.

  • 주요 메서드:

    • __init__(): 레이어 정의
    • call(): 순전파(forward) 로직 구현
class MyModel(tf.keras.Model):
    def __init__(self):
        super().__init__()
        self.dense = tf.keras.layers.Dense(10)
    def call(self, inputs):
        return self.dense(inputs)

2. 📦 다차원 배열: 텐서 (Tensor)

  • 딥러닝에서는 데이터 = 텐서
  • 스칼라(0D), 벡터(1D), 행렬(2D), 이미지(3D), 미니배치(4D) 등
  • tf.constant, tf.Tensor, numpy.array 등으로 생성 가능

3. 🎯 출력층 설계

  • 문제의 종류에 따라 출력층과 활성화 함수가 다르다
    | 문제 유형 | 출력층 노드 수 | 활성화 함수 | 손실 함수 |
    |-----------|----------------|----------------|-------------------------|
    | 이진 분류 | 1 | sigmoid | BinaryCrossentropy |
    | 다중 분류 | 클래스 수 | softmax | SparseCategoricalCrossentropy |
    | 회귀 문제 | 1 | 없음 또는 linear | MeanSquaredError (MSE) |

4. ⚖️ 손실 함수 (Loss Function)

  • 모델이 얼마나 틀렸는지 수치화

  • 자주 쓰는 손실 함수

    • 이진 분류: BinaryCrossentropy
    • 다중 분류: SparseCategoricalCrossentropy
    • 회귀: MeanSquaredError (MSE)

5. 📉 수치 미분 (Numerical Differentiation)

  • 미분 공식을 쓰지 않고, 작은 변화량 h를 넣어 근사적으로 기울기 계산

  • ex:

    f(x)f(x+h)f(x)hf'(x) ≈ \frac{f(x + h) - f(x)}{h}

6. 📐 기울기 (Gradient)

  • 손실 함수의 변화율
  • 기울기의 방향 = 손실 줄이는 방향
    | 기울기 부호 | 해야 할 일 |
    |-------------|-----------------------|
    | 음수 (-) | 파라미터 증가 |
    | 양수 (+) | 파라미터 감소 |

7. 🔁 오차역전파법 (Backpropagation)

  • 기울기를 자동 계산하여 역방향으로 전달하며 파라미터 업데이트

  • 핵심 단계:

    1. 순전파 → 예측
    2. 손실 계산
    3. 역전파로 기울기 계산
    4. 파라미터 업데이트

8. 🧮 최적화 함수 (Optimizer)

  • 기울기를 바탕으로 가중치 업데이트
    | Optimizer | 특징 |
    |-----------|------|
    | SGD | 확률적 경사하강법, 기본형 |
    | Adam | 모멘텀 + RMSProp 결합, 가장 널리 사용 |
    | RMSprop | 지수 평균 기반 가중치 조정 |
    | Adagrad | 희소한 데이터에 적합 |

9. 👁️ 컴퓨터 비전 (Computer Vision)

  • 이미지와 영상 데이터를 처리하는 분야
  • 딥러닝에서는 CNN (Convolutional Neural Network) 사용
  • 주요 용도: 객체 인식, 얼굴 인식, 자율주행 등

필요하시면 위 개념들 중 하나를 파이썬 코드와 함께 더 깊이 설명해드릴게요.
어떤 개념부터 자세히 보고 싶으신가요?

profile
@mgkick

0개의 댓글