오늘의 공부

언어 모델

언어 모델이란, 주어진 문장이 텍스트 데이터에서 발생할 확률을 계산하는 모델로써 자동완성기능, 챗봇 등에서 주로 쓰인다. 좀 더 세부적으로 살펴보자면, 문장의 발생 확률은 문장의 각 단어가 발생할 조건부 확률의 곱으로 계산된다.

N-gram 기반 모델은 이러한 단어의 발생 확률을 계산할 때 이전의 단어를 전부 기억하는 것이 아니라 N개의 근접 단어의 발생 확률을 계산하는 방식이다. 다시 말하자면 데이터 내 각 N-gram의 빈도수로 계산하는 것이다.

#엘리스 #엘카데미 #엘리스코딩 #엘리스아카데미 #엘카데미후기 #엘카데미이벤트 #엘리스출석챌린지 #코딩이벤트 #무료코딩