이번에 리뷰할 논문은 BERT 논문이다. BERT는 2018년 구글이 발표한 pre-trained model로 GPT와 자주 비교가 되는 논문이다. 공개 당시 11개의 NLP task에서 SoTA를 달성하며 매우 뛰어난 모델로 평가를 받았으며, 지금도 계속해서 RoBERTa, ALBERT, BART 등 매우 많은 BERT 계열의 모델이 쏟아져 나오고 있다....