SimCLS: A Simple Framework for Contrastive Learning of Abstractive Summarization 논문 리뷰

DeepMind의 Perceiver IO 논문 리뷰 (ICLR 2022)

Google의 FLAN 논문 리뷰 (Under review in ICLR 2022)

Microsoft의 DeBERTa 논문 리뷰

2021 DEVIEW 리뷰

Facebook의 Poly-Encoder 논문 리뷰

가이드를 활용하기 위해 확장된 텍스트 요약 프레임워크, GSum 논문 리뷰

Microsoft의 소셜 챗봇 XiaoIce의 프레임워크를 소개한 논문 리뷰

Abstract meaning representation for sembanking 논문 리뷰

GSum: A General Framework for Guided Neural Abstractive Summarization 실행 가이드

Fast Abstractive Summarization with Reinforce-Selected Sentence Rewriting 논문 리뷰

Extractive Summarization as Text Matching 논문 리뷰

Extractive Summarization as Text Matching (Zhong et al., 2020, ACL) 실행 가이드

💡 기존 2-Stage Learning의 한계를 완화한 패러다임 제안

Transformer는 CNN, RNN 계열의 신경망 구조를 탈피한 Attention 메커니즘만으로 구현한 딥러닝 모델이다.

Word2Vec는 사용자가 지정한 윈도우 내에서만 학습이 이루어지기 때문에 말뭉치 전체의 동시 출현(co-occurrence)은 반영되기 어려운 단점이 있다.

원 핫 인코딩을 사용하면서도 단어 간 유사도를 반영할 수 있도록 단어의 의미를 벡터화하는 방법이다.

Linux에서 시간이 표현되는 방식으로 인해, 부호형 32 비트 숫자는 2038년 1월 19일 03:14:07 이후의 시간을 지원할 수 없다는 문제다.

system()은 command를 입력으로 받아 fork()를 통해 자식을 생성하고, 다음과 같은 execl 함수로 shell command를 실행시키는 함수다.

이벤트를 처리하는 과정에서 설명되지 않는 지연은 RealTime Linux의 가장 큰 문제 중 하나다.