Chapter 1 딥러닝 - The Beginning
퍼셉트론 이야기
- 1958년 로젠블랫이 '퍼셉트론'이라는 논문 발표
- 퍼셉트론을 통해 기계까 학습하는 것을 시연하는 데 성공함
- 퍼셉트론과 아달라인은 학습이라는 것을 성공 함
- 민스키의 기호주의: 전문가의 경험을 녹여들게 하고 싶다(전문가 시스템)
- 로젠블랫의 연결주의: 인간의 뇌는 수많은 신경망이니까 기계도 신경망으로
- AI Winter 이후 1986년 제프리 힌튼에 의해 다층 퍼셉트론과 역전파 알고리즘이 재발견 됨
퍼셉트론 알아보기
-
퍼셉트론
-
수식
-
AND, OR, NAND 게이트
퍼셉트론의 한계
-
XOR 문제
-
직선 하나로는 문제 해결 불가
-
다층의 퍼셉트론이 필요
신경망
-
편향을 고려한 표현
-
활성화 함수
-
0과 1의 출력을 내고 싶으면 시그모이드
-
활성화함수는 비선형이 주로 사용: 선형 함수를 쓰면 합성의 의미가 없음
-
ReLU
-
신경망은 행렬의 곱 연산이 많이 사용
-
가중치 표기법
-
입력층에서 그 다음단계로 진행 (활성화 함수)
- 출력층으로
출력층의 종류
- 모델의 목표에 따라 답을 회신받는 방법
-> output 그냥 받기 (value)
-> output에 sigmoid (O/X)
-> output에 softmax (Category)
Chapter 2 Learning 학습
그래프를 이용한 연산
-
그래프를 이용해서 계산하면 확장이 용이함
-
역전파
XOR
- XOR를 풀기 위한 딥러닝 구조
이 글은 제로베이스 데이터 취업 스쿨의 강의 자료 일부를 발췌하여 작성되었습니다
