profile
투빅스 NLP 논문세미나입니다!
post-thumbnail

Learning to Repair- Repairing model output errors after deployment using a dynamic memory of feedback

LLM이 LLM의 틀린 정답을 수정한다! | 장준원

2022년 8월 10일
·
0개의 댓글
·

SMART : Sentence as Basic Units for Text Evaluation

16기 전민진 | 새로운 문장 단위 metric의 등장

2022년 8월 8일
·
0개의 댓글
·
post-thumbnail

Leveraging Passage Retrieval with Generative Models for Open Domain Question Answering (FiD)

Decoder에서 정보를 합쳐볼까? | 장준원

2022년 8월 6일
·
0개의 댓글
·
post-thumbnail

Retrieval-Augmented Generation for Knowledge-Intensive NLP Tasks

내가 새로운 정보를 반영해볼게! | 장준원

2022년 7월 25일
·
0개의 댓글
·

PaLM: Scaling Language Modeling with Pathways (2)

2편! | 15기 조효원

2022년 6월 1일
·
0개의 댓글
·
post-thumbnail

ALBERT: A Lite BERT for Self-supervised Learning of Language Representations

BERT를 경량화시킨 ALBERT | 17기 홍종현

2022년 5월 25일
·
0개의 댓글
·
post-thumbnail

PaLM: Scaling Language Modeling with Pathways (1)

초대규모 언어모델 PaLM! | 15기 조효원

2022년 5월 25일
·
0개의 댓글
·

Poly-Encoders : Transformer Architectures and Pre-training Strategies for Fast and Accurate Multi-sentence Scoring

폴리인코더를 통해 빠르고 정확하게 multi-sentence를 scoring해보자! | 17기 신은아

2022년 5월 18일
·
0개의 댓글
·
post-thumbnail

Extractive summarization as Text Matching (MatchSum)

Extractive Summarization에 Semantic text maching을 도입한 MatchSum | 17기 임수진

2022년 5월 11일
·
0개의 댓글
·

Characterizing the Efficiency vs. Accuracy Trade-off for Long-Context NLP Models

입력이 긴 모델에 대한 observation paper | 16기 전민진

2022년 5월 11일
·
0개의 댓글
·
post-thumbnail

DiffCSE: Difference-based Contrastive Learning for Sentence Embeddings

간단한 아이디어로 sentence embedding 성능을 올린 DiffCSE!

2022년 5월 10일
·
0개의 댓글
·

MERL:Multimodal Event Representation Learning in Heterogeneous Embedding Spaces

MERL | 17기 박나윤

2022년 5월 4일
·
0개의 댓글
·
post-thumbnail

Transformer-xl: Attentive language models beyond a fixed-length context

Extra-Large한 Language Model을 만들어볼까? | 16기 장준원

2022년 4월 23일
·
0개의 댓글
·

DAPT : Don't Stop Pretraining. Adapt Language Models to Domains and Tasks.

아직 사전학습을 멈출 순 없다! | 15기 김재희

2022년 4월 6일
·
0개의 댓글
·
post-thumbnail

GPT-3: Language Models are Few-Shot Learners

패러다임의 변화! GPT3! | 15기 조효원

2022년 3월 30일
·
0개의 댓글
·

BertGCN: Transductive Text Classification by Combining GCN and BERT

BertGCN | 17기 박나윤

2022년 3월 29일
·
0개의 댓글
·

GPT2 - Language Models are Unsupervised Multitask Learners

GPT2 | 17기 홍종현

2022년 3월 28일
·
0개의 댓글
·
post-thumbnail

Text Summarization with Pretrained Encoders (BERTSUM)

BERT를 Summarization task에 적용시킨 BERTSUM에 대해서 알아보자! | 17기 임수진

2022년 3월 14일
·
0개의 댓글
·
post-thumbnail

Universal Sentence Encoder (USE)

1.Introduction 본 논문은 기존에 사용되고 있는 NLP training model들에 대해 전반적인 문제점을 지적하고 있다. > NLP task에 사용되는 training data의 크기는 제한적이다. 대부분의 NLP 관련 연구나 실무에서 large tra

2022년 3월 14일
·
0개의 댓글
·
post-thumbnail

RoBERTa

BERT에서 성능을 더 개선시킨 RoBERTa에 대해 알아보자 | 17기 신은아

2022년 3월 6일
·
0개의 댓글
·