# XLNet

총 4개의 포스트
post-thumbnail

XLNet 논문 리뷰

XLNet: Generalized Autoregressive Pretraining for Language Understanding(2019) 논문을 읽고 내용 요약 및 정리

NLPXLNet논문리뷰
2022년 5월 16일
·
0개의 댓글
·
post-thumbnail

[논문리뷰] XLNet : Generalized Autoregressive Pretraining for Language Understanding

NLP domain에서 unsupervised representation learning이 매우 성공적인 결과를 보여주고 있다. 많은 양의 unlabeled corpus를 이용해 Pre-training을 하고, 얻어진 representation을 직접적으로 활용하거나

NLPXLNet
2022년 4월 19일
·
0개의 댓글
·
post-thumbnail

XLNet: Generalized Autoregressive Pretraining for Language Understanding(by 강유진)

XLNet: Generalized Autoregressive Pretraining for Language Understanding Abstract BERT와 같이 양방향 문맥을 모델링하는 능력으로 사전학습을 기반으로 한 denoising autoencoding은 a

LMXLNetpaper reading
2022년 3월 3일
·
0개의 댓글
·
post-thumbnail

Language Model: Transformer XL, XLNet

Independent segment assumptionLimited history at initial word tokens

XLNettransformer
2021년 12월 3일
·
0개의 댓글
·