Pre-trained representations가 NLP와 perception task에 더 중요해지고 있다NLP에서 representation을 학습하는 것은, human annotations 없이 raw text에서 train하는 것으로 transition 되었지
4 Conclusion
open-domain videos에 대한 abstractive summarization 연구지금까지 연구되온 text news summarization과 달리, 목표는 video, audio transcript(text)를 fluent textual sumary 형태로