- 적응형 선형 뉴런을 표현
- 경사하강법을 통해 가중치를 업데이트하여 예측 오류를 최소화하는 학습 알고리즘
퍼셉트론과 아달린 비교
| 특징 | 퍼셉트론 | 아달린(ADALINE) |
|---|---|---|
| 가중치 업데이트 방식 | - 한 번에 하나의 샘플에 대해 가중치를 업데이트 - 단위계단함수 사용 | - 모든 샘플을 기반으로 가중치를 업데이트 -> 배치 경사 하강법 - 선형활성화함수 사용 |
| 비교 방식 | - 진짜 클래스 레이블과 예측 클래스 레이블 비교 | - 퍼셉트론은 하는 반면에 아달린은 진짜 클래스 레이블과 선형 활성화 함수의 실수 출력 값 비교 |
경사하강법
-
함수의 최소값(또는 최대값)을 찾기 위해 반복적으로 매개변수(가중치)를 업데이트하는 방법
-
함수의 최소값을 왜 찾지?
- 최소값 -> 최적의 성능을 의미
- 실제값과 예측값의 차이가 작아야 좋은거니깐
- 즉, 최적의 매개변수(가중치)를 찾기 위해
정리하는게 공부가 될 지 모르겠지만, 정리를 하면 마음만큼은 편해