밑바닥부터 시작하는 딥러닝

파이썬에서는 클래스를 직접 정의해서 개발자가 독자적인 자료형을 만들 수 있다. init 이라는 특별한 메서드를 통해 클래스를 초기화 할 수 있다. 이 초기화용 메서드를 생성자라고도 하며 클래스의 인스턴스가 만들어질 때 한번만 불린다.Man 이라는 클래스를 정의하고 m이

퍼셉트론은 다수의 신호를 입력으로 받아 하나의 신호를 출력하는 것이다.입력으로 2개의 신호를 받은 퍼셉트론의 예시이다. x는 입력신호를 w는 가중치를 나타낸다. 그림의 원을 뉴런 혹은 노드라고 부른다. 입력 신호가 뉴런에 보내질 때는 각각 고유한 가중치가 곱해진다. 이

신경망을 그림으로 나타내면 다음과 같다.가장 왼쪽 줄을 입력층, 중간 줄을 은닉층, 맨 오른쪽 줄을 출력층이라고 한다. 입력신호의 총합을 출력 신호로 변환하는 함수를 말한다. 그리고 이 활성화 함수는 임계값을 계기로 출력이 바뀌는데 이런 함수를 계단 함수라고 부른다.

신경망 학습 데이터 주도 학습 기계학습의 중심에는 데이터가 존재한다. 이미지에서 특징을 추출하고 그 특징의 패턴을 기계학습 기술로 학습하는 방법이 있다. 여기서의 특징은 입력데이터(입력 이미지)에서 본질적인 데이터(중요한 데이터)를 정확하게 추출할 수 있도록 설계된

오차역전파법 가중치 매개변수의 기울기를 효율적으로 계산하는 방법이다. 크게 두 가지로 이해할 수 있다. 하나는 수식을 통한 것, 하나는 계산 그래프를 통한 것이다. 계산 그래프 계산그래프는 계산 과정을 그래프로 나타낸 것이다. 여기서의 그래프는 우리가 잘 아는 그래프

신경망 학습의 목적은 손실 함수의 값을 낮추는 매개변수를 찾는것이다. 매개변수의 최적값을 찾는다는 것을 최적화라고 한다. 최적의 매개변수를 찾는 단서로 미분을 이용했다. 매개변수의 기울기를 구하고 기울어진 방향으로 매개변수 값을 갱신하는 일을 반복하여 최적의 값을 찾는

지금까지 공부한 신경망들은 인접하는 계층의 모든 뉴런과 결합이 되어있었다. 이를 완전연결이라고 하고, 완전히 연결된 계층을 Affine 계층이라는 이름으로 구현했다. 그 구조는 다음과 같았다.완전연결 신경망은 Affine 계층 뒤에 활성화 함수를 갖는 ReLU 계층이

여기서 사용되는 합성곱 계층은 모두 3x3 크기의 작은 필터로, 층이 깊어지면서 채널 수가 더 늘어나는 것이 특징이다.(합성곱 계층의 채널 수는 앞 계층에서부터 순서대로 16, 16, 32, 32, 64, 64로 늘어간다) 또 그림과 같이 풀링 계층을 추가해 중간 데이