나이브 베이스 분류기(Naive Bayes Classification)

• 베이즈 정리를 적용한 확률적 분류 알고리즘
• 모든 특성이 독립임을 가정
• 입력 특성에 따라 3개의 분류기로 구분
  • 가우시안 나이브 베이즈 분류기
  • 베르누이 나이브 베이즈 분류기
  • 다항 나이브 베이즈 분류기

from sklearn.metrics import accuracy_score
from sklearn.naive_bayes import MultinomialNB

NB = MultinomialNB()
NB.fit(x_train, y_train)
pred = NB.predict(x_test)
acc = accuracy_score(pred, y_test)
print(acc)

tf-idf를 이용하면 정확도 향상된다.

from sklearn.metrics import accuracy_score
from sklearn.naive_bayes import MultinomialNB
from sklearn.feature_extraction.text import TfidfTransformer

tfidf = TfidfTransformer()
x_train_tf = tfidf.fit_transform(x_train)
x_test_tf = tfidf.fit_transform(x_test)

NB = MultinomialNB()
NB.fit(x_train, y_train)
pred = NB.predict(x_test_tf)
acc = accuracy_score(pred, y_test)
print(acc)