Transformer

https://www.ijcai.org/proceedings/2022/0681.pdf

< Sampling > 방법 여러 가지

• Beam search

• Max scaling

• Temperature 를 높이면 entropy 가 커지는 방향으로 output 이 균일해진다.

우리의 Task

1. Correct - Low Temparature
   (아예 외운대로 나온다)
2. Various - High Temparature
   (새로운게 나온다)

--> 이 두 가지의 균형을 잘 맞춰야 한다.

조성 통일?

• G maj, C maj 각각 만의 중요한 특성이 있는지 분석을 해봐야 함
• 특성이 있다고 하면, C 메이저라고 할 때 기준음 기준으로 몇 도 위, 아래인

• GPT2 abc generation 블로그

'''
1. Representation tokenize
2. Embedding & RNN/transformer
3. Decoding/Sampling
'''
이 세가지가 각각 별개로 진행되고 있음

데이터셋

• The session : 리듬이 장르별임. jig, Reel, Waltz Vocab이 10개가 안되는 정도로 장르 분류가 잘 되어 있음.
  여기의 reel을 모아놓으면 fine tuning 을 얼마나 해야 하는지 이슈가 생길 수도 있음. 그대로 쓸 수 있으면 좋음.
• C로 이조한 다음에 Note 정보만 첫 10개만 받아와서 같으면 가져오는 식으로. 여기는 일단 무조건 = 내츄럴을 붙인 것 같음.

--> 결론은 평가를 어떻게 할 것인지 생각해야 한다. 어떤 abc가 나와야 할지

Judge

1. 표절인지 체크
   • Rule-based 접근 : Pitch sequence 를 만들어서 n-gram 비교
     3-gram : CCG
     4-gram : CCGD
     6~8-gram 정도로 봐야 할 듯
2. Reel 이 맞는지 체크
   • Rule-based
3. Melody 점수
4. Structure 점수
   • 2도막이 맞는지
   • 4/4, 2/2가 맞는지
5. 악보가 맞는지 체크

• folkrnn abc data 크롤링