ID3 Algorithm

REi·2024년 3월 26일
ID3ID3 Algorithm결정트리

Algorithm

목록 보기
2/4
  • ID3는 Iterative Dichotomiser 3의 약어이다.
  • ID3는 오직 분류 문제(Classification Problem)에만 사용한다.
Entropy(S)=−∑n=1n(pi⋅log2pi)Entropy(S) = -\sum_{n=1}^n (pi \cdot log_2pi)
InformationGain(S,Attribute)=Entropy(S)−∑a∈Attribute∣Sa∣SEntropy(Sa)Information Gain(S,Attribute)=Entropy(S)-\sum_{a\in Attribute}\frac{|Sa|}{S}Entropy(Sa)
  • Information Gain이 가장 높은(Highest)속성이 노드로 선택된다.

Reference ) https://ankitnitjsr13.medium.com/decision-tree-algorithm-id3-d512db495c90

profile
REi
이전 포스트

CART Algorithm

다음 포스트

Simple Linear Regression

0개의 댓글