모델 훈련 이 장에서는 가장 간단한 모델 중 하나인 '선형 회귀'를 살펴보게 된다. 이 모델을 훈련시키는 두 가지 방법을 설명하겠다. 계산 공식을 통해 훈련 세트에 맞는 모델 파라미터를 해석적으로 구한다. 최적화 방식인 '경사 하강법'을 통해 모델 파라미터를 조금씩

가장 일반적인 지도학습 task 중에는 회귀(값 예측)와 분류(클래스 예측)가 있다. 이번 장에서는 분류 시스템을 집중적으로 다루겠다. Binary Classifier 예시 사이킷런의 SGDClassifier 클래스를 사용해서 SGD(Stochastic Gradien

역전파 알고리즘은 출력층에서 입력층으로 오차 gradient를 전파하면서 진행된다. 알고리즘이 신경망의 모든 파라미터에 대한 오차 함수의 gradient를 계산하면, 경사 하강법 단계에서 이 gradient를 사용해서 각 파라미터를 수정한다. 심층 신경망 훈련에서 발생

본 사이트를 참고하여 정리한 내용입니다.

퍼셉트론이 XOR문제를 해결하지 못해서 잠깐 동안 인공지능 분야의 침체기가 찾아왔었지만 MLP(Multi-layer Perceptron)으로 이 문제가 해결되었다.MLP가 구체적으로 어떤 방식으로 XOR문제를 해결했을까?XOR 게이트는 exclusive OR 게이트의

한 때는 강력한 머신러닝 기술들이 개발되면서 인공 신경망 연구가 침체기에 들어서기도 했었다. 신경망을 훈련시키기 위한 데이터의 양이 늘어나고, 컴퓨터 하드웨어가 크게 발전함에 따라 대규모 신경망을 훈련할 수 있는 여건이 점차 만들어졌다. 생물학적 뉴런은 단순하게 동작하

데이터로부터 학습하도록 컴퓨터를 프로그래밍하는 것,어떤 작업 T에 대한 컴퓨터 프로그램 성능이 P로 측정되었는데, E라는 경험으로 성능이 향상됐다면, 이 컴퓨터 프로그램은 작업 T와 성능 측정 P에 대해 경험 E로 학습한 것이라 할 수 있다. - Tom Mitche

❔ Main quesion: 몇 개의 node들에 대해서만 label이 주어진 network에서 unlabeled node의 label을 어떻게 assign할 수 있을까?📌 Alternative framework: Message passing\* Semi-superv

본 포스트 작성에 참고한 사이트1, 사이트2 MBTI 분류기를 구현할 때 메인으로 사용한 SVM을 본 포스트를 통해 자세히 정리해보려 한다. Support Vector Machine (이하 SVM)은 regression과 classification에 모두 적용될 수

리트코드 문제를 푸는 도중, 함수 정의 부분에서 화살표가 등장했다. 해당 데이터 타입을 정의한 것인가? 하는 생각을 품고 정확히 알아보기 위해 검색을 해보았다. (내가 만난 코드는 다음과 같았다.)python3에서 발견되는 '->'는 함수의 반환 값에 대해서 주석을 달

이 알고리즘의 핵심이 되는 연산자는 if(ari == target) 에 등장하는 '==' 연산자다. 이 동등비교 연산자에 따라 <연산이나 ++연산의 횟수가 결정된다. 이처럼, 알고리즘의 핵심 연산이 무엇인지 잘 판단하여 시간 복잡도를 계산해야 한다.위 그림에서 확

📌 자료구조를 공부할 땐 그림으로 그리면서 이해해보자.👉 시간 복잡도: 속도에 해당하는 알고리즘의 수행시간 분석결과👉 공간 복잡도: 메모리 사용량에 대한 분석결과가장 좋은 알고리즘은 메모리를 적게 쓰면서도 속도가 빠른 알고리즘일 것이다. 일반적으로는 알고리즘 평가

구름 스터디와 KAIST 주재걸 교수님의 랩실이 함께하는 '자연어처리 전문가 양성 교육 과정'에 참여하게 되었습니다. 시작한 지 이제 막 일주일이 지났는데 학습 양이 어마어마합니다. 평일 5일 하루 약 5시간 분량의 강의를 듣다 보니 공부한 내용을 복습하고 머릿속에 정