generative model 논문 출간 패턴

kiteday·2024년 2월 23일
0

석사일지

목록 보기
2/6

뭔가 생성 모델도 출간되는 패턴이 있는 거 같은데

  1. 완벽히 새로운 모델
    이를테면 GAN으로 이전에 없던 사고방식이 처음으로 등장하는 느낌.

  2. 1을 응용해서 조건을 제어하거나 퀄리티 업
    GAN 다음 CGAN이 나와서 조건을 제어하고 싶은 느낌
    혹은 Diffusion을 기반으로 Dalle나 SDMs가 나오는 느낌

  3. 1,2를 백본으로 응용하는 모델
    StyleGAN을 백본으로 조건을 제어하거나 SDM을 백본으로 Style transfer를 한다던지 하는 논문들
    혹은 다른 도메인(예를들어 이미지 생성 모델에 텍스트 모델을 붙인다)의 것들을 가져오는 논문들

  4. 경량화 및 Adapter 방식 변화
    같거나 높은 성능을 보이지만 우리게 더 좋다!
    few-shot이나 zero-shot으로 학습한다 (데이터셋 한계극복)
    LoRA같은 adapter를 붙이면 성능이 더 좋은데 적은 리소스로도 된다.!

수정될 수도 있지만 일단은 뭔가 이 패턴들의 반복이랄까요? 1-2-3-4 순으로 나올 때도 있지만 혼재해서 나오는 경우도 다수임.

profile
공부

0개의 댓글