profile
NLP Researcher
post-thumbnail

[NLP Package] Stanza

Stanza란?스탠포드(Stanford) 대학교에서 개발한 NLP tool package(Stanza URL: https://stanfordnlp.github.io/stanza/index.html) Medical Report Generation를 위한 NER로

2022년 6월 12일
·
0개의 댓글
·

[논문 리뷰]ERNIE

ERNIE(Enhanced Representation through Knowledge Integration) 서론 BERT와 같은 여러 LM은 문맥 안에서 masked 단어를 예측하는 방식으로 학습한다. 이때, 문장에 대한 사전 지식은 고려하지 않는다. 예를 들어

2021년 10월 22일
·
0개의 댓글
·
post-thumbnail

[논문리뷰]RoBERTa

NLP 분야에서는 Word2Vec과 같은 Word embedding으로 Transfer learning을 수행해왔다. 그러나 Word2Vec, Fastext 같은 Word embedding은 얕은 뉴럴넷을 기반으로 하기 때문에, 단어들의 결합형태나 문맥(다의어, 동형이

2021년 10월 22일
·
0개의 댓글
·
post-thumbnail

[논문 리뷰] Document-Level Relation Extraction

이번 글은 Entity Structure Within and Throughout: Modeling Mention Dependencies for Document-Level Relation Extraction(AAAI '21) 논문 리뷰입니다. KAIST DAVIAN 연구

2021년 9월 30일
·
0개의 댓글
·
post-thumbnail

Text Generation Metric(자연어 생성 평가 지표)

자연어 생성(Text Generation) 모델의 성능을 평가하는 방법은 여러가지이다. Human Evaluation은 종종 최선의 지표이지만, 상당히 비싸고 시간이 많이 소요된다. 따라서 자동 평가방법(Automatic Evaluation Metrics)을 많이 사용

2021년 9월 16일
·
0개의 댓글
·