deepLearningFromScratch

밑시딥 챕터 1로 스터디 자료를 만들 게 없어서 제목과 같은 주제를 선정하여 작성했다.파이썬 내장 함수를 사용해도 수학 계산을 할 수 있지만, numpy를 사용하면 더 편리한 수학 계산 함수를 지원하여 짧은 코딩으로 구현이 가능하고 계산이 더 빠르다.더 편리한 수학 계

밑바닥부터 시작하는 딥러닝 챕터 2를 읽으며, 헷갈렸거나 몰랐던 사실들을 정리했다.퍼셉트론(뉴런..노드..)은 가중치와 편향을 매개변수로 가지고 출력값을 낸다.학습이란 적절한 매개변수 값을 정하는 작업이다.AND, OR, NAND 게이트는 단층 퍼셉트론으로 표현이 되는

단층 퍼셉트론단층 네트워크에서 계단함수를 활성화 함수로 사용한 모델다층 퍼셉트론신경망(여러 층으로 구성되고 시그모이드 함수 등의 매끈한 활성화 함수를 사용하는 네트워크) 시그모이드 vs 계단함수공통점 \- 입력값에 관계없이 출력은 0 ~ 1 사이 \- 비선형 함수차

학습훈련 데이터로부터 가중치 매개변수의 최적값을 자동으로 획득하는 것손실함수가 최소화되는 쪽으로 학습선형 분리 가능 문제는 유한 번의 학습을 통해 풀 수있다는 사실이 퍼셉트론 수렴 정리로 증명됨오차제곱합 (sum of squares for error, SSE)yk는 신

오차역전파법(역전파, backward propagation of errors)을 사용하는 이유신경망의 가중치 매개변수의 기울기를 수치미분으로 구하는 것보다 훨씬 빠르다. (해석적인 방법)노드와 엣지로 구정된 계산 그래프를 가지고 시각적으로 이해할 수 있다. \- 연쇄