🧠딥러닝

💡오늘 배울 내용 오늘은 프랑크 로젠블라크가 1957년에 고안한 알고리즘인 퍼셉트론에 대해 공부합니다. 퍼셉트론은 딥러닝(신경망)의 기원이 되는 알고리즘으로 딥러닝을 공부하는 중요한 아이디어가 될 것입니다. 앞으로의 포스팅은 도쿄 대학 대학원을 졸업하신 사이토 고키

단층퍼셉트론에서 다층퍼셉트론으로, 여기서 더 나아가면 신경망 까지 나아갈 수 있습니다. 오늘은 지난번 단층 퍼셉트론의 한계였던 XOR 게이트를 다층 퍼셉트론을 이용하여 구현해보고 신경망을 시작하기 위한 아이디어를 얻어보겠습니다.앞서서 단층 퍼셉트론이 어떠한 원리로 AN

신경망의 첫번째 시간입니다. 기존에 배운 퍼셉트론에서 신경망으로 확장해봅시다. 또한 다차원 배열의 편리한 연산 기능을 통해 신경망의 연산을 단순화하는 방법도 알아봅니다. 편향과 가중치가 매개변수로 작동하는 퍼셉트론(Perceptron)을 신경망으로 해석해봅시다. 신경망

순전파 신경망 알고리즘 방식대로, 3층 신경망에서 수행되는 입력부터 출력까지의 과정을 구현해보도록 하겠습니다. 3층 신경망이란 입력층(0층)은 2개, 첫번째 은닉층(1층)은 3개, 두번째 은닉층(2층)은 2개, 출력층(3층)은 2개의 뉴런으로 구성됩니다.

신경망은 분류와 회귀 모두에 이용할 수 있습니다. 신경망의 마지막 층, 출력층을 어떤 활성화 함수로 구성할 것인지 문제에 따라 정하게 됩니다. 오늘은 항등 함수와 소프트맥스 함수를 구현해보도록 하겠습니다.

순전파 신경망으로 MNIST 데이터를 학습시켜 손글씨를 인식하는 과정을 실습해봅시다. 순전파 신경망은 앞에서부터 차례대로 연산을 진행하고, 가중치와 편향(매개변수) 값들을 업데이트 하는 과정이 없습니다. 즉, 이때 알맞게 구성된 매개변수 세트가 이용됩니다.

이미지에서 특징을 추출하고, 그 특징의 패턴을 기계학습 기술로 학습하는 것입니다. 입력 데이터를 특징 벡터(Feature Vector)로 기술하고 변환된 벡터를 가지고 지도 학습 방식의 분류 기법(SVM, KNN 등)을 적용하는 것이 그 예 입니다. 컴퓨터 비전 분야에

신경망 학습에 있어 지표가 되는 함수를 손실 함수라고 합니다. 보통 예측값과 실제값(레이블)의 차이를 기준으로 손실 함수가 정의됩니다. 대표적인 손실함수인 평균 제곱 오차와 교차 엔트로피 오차를 알아봅시다.

기계학습 문제는 훈련 데이터를 사용해 학습합니다. 구체적으로는 훈련 데이터에 대한 손실 함수의 값을 구하고, 그 값을 최대한 줄여주는 매개변수를 찾아내는 과정입니다. 이렇게 하려면 모든 훈련 데이터를 대상으로 손실 함수 값을 구해야 합니다. 즉, 훈련 데이터가 100개