https://www.youtube.com/watch?v=XwlLeVhWCCc
위의 영상을 정리한 글입니다.


Transformer 기반
(red)
encoder only
우리의 말을 모델이 잘 이해하도록
(blue)
decoder only
우리가 말을 했을 때 잘 받아침
(green)
encoder & decoder
두가지를 모두 잘함
-> 지금까지는 decoder 중심으로 많은 연구가 진행되었음

closed source: 쓸 때 돈을 내야 하고, 상세한 구성요소를 알 수 없음
open source: 모델 안 요소들을 다 알 수 있고, 직접 뜯어고쳐서 최적화된 모델을 만들 수 있음