딥러닝

numpy 배열 연산 matplotlib.pyplot: 그래프 그리기 matplotlib.image: 이미지 가져오기

활성화 함수(activation function) 이란 입력 신호의 총합을 출력 신호로 변환하는 함수를 일반적으로 부르는 말이다.임계값을 경계로 출력이 바뀌는 활성화 함수는 계단 함수(step function) 이라고 한다.$h(x) = \\frac{1}{1+\\exp

0. 서론 학습 이란 훈련 데이터로부터 가중치 매개변수의 최적값을 자동으로 획득하는 것을 뜻한다. 1. 데이터 학습 1.1 데이터 주도 학습 이미지 인식과 관련하여, 이미지의 특징을 추출하고 그 특징의 기계학습 기술로 학습하는 방법이 있다. 여기서 특징은 이미지에서

수치 미분을 통한 기울기 산출은 단순하지만, 계산 시간이 오래 걸린다. 하지만 오차역전파법(backpropagation) 을 통해 기울기를 효율적으로 계산할 수 있다. 오차역전파법을 이해하기 위해서는 연쇄법칙을 이해해야한다. 먼저 합성함수의 미분에 대한 중요한 성질 하

확률적 경사 하강법을 파이썬 클래스로 구현하면 다음과 같다.하지만 문제에 따라서 SGD가 비효율적일 수 있다. 예를 들어 다음과 같은 함수$$f(x,y) = \\frac{1}{20}x^2+y^2$$의 경우 3차원 공간에서 bowl을 x축 방향으로 길게 늘린 모양이다.