데이터로부터 학습하도록 컴퓨터를 프로그래밍하는 것,어떤 작업 T에 대한 컴퓨터 프로그램 성능이 P로 측정되었는데, E라는 경험으로 성능이 향상됐다면, 이 컴퓨터 프로그램은 작업 T와 성능 측정 P에 대해 경험 E로 학습한 것이라 할 수 있다. - Tom Mitche
한 때는 강력한 머신러닝 기술들이 개발되면서 인공 신경망 연구가 침체기에 들어서기도 했었다. 신경망을 훈련시키기 위한 데이터의 양이 늘어나고, 컴퓨터 하드웨어가 크게 발전함에 따라 대규모 신경망을 훈련할 수 있는 여건이 점차 만들어졌다. 생물학적 뉴런은 단순하게 동작하
퍼셉트론이 XOR문제를 해결하지 못해서 잠깐 동안 인공지능 분야의 침체기가 찾아왔었지만 MLP(Multi-layer Perceptron)으로 이 문제가 해결되었다.MLP가 구체적으로 어떤 방식으로 XOR문제를 해결했을까?XOR 게이트는 exclusive OR 게이트의
역전파 알고리즘은 출력층에서 입력층으로 오차 gradient를 전파하면서 진행된다. 알고리즘이 신경망의 모든 파라미터에 대한 오차 함수의 gradient를 계산하면, 경사 하강법 단계에서 이 gradient를 사용해서 각 파라미터를 수정한다. 심층 신경망 훈련에서 발생
가장 일반적인 지도학습 task 중에는 회귀(값 예측)와 분류(클래스 예측)가 있다. 이번 장에서는 분류 시스템을 집중적으로 다루겠다. Binary Classifier 예시 사이킷런의 SGDClassifier 클래스를 사용해서 SGD(Stochastic Gradien