통계적 언어 모델

언어 모델의 전통적인 접근 방법인 통계적 언어 모델을 소개합니다. 통계적 언어 모델이 통계적인 접근 방법으로 어떻게 언어를 모델링 하는지 배워보겠습니다.

통계적 언어 모델은 줄여서 SLM이라고 합니다,

1. 조건부 확률

2. 문장에 대한 확률

3. 카운트 기반의 접근

단어 다음에 나올것에대한 카운트 확률

4.카운트 기반 접근의 한계 - 희소 문제(Sparsity Problem)