[DL] Attention is all you need(0) : references

[0] References :

• https://arxiv.org/abs/1706.03762 - "Attention Is All You Need" 논문입니다. 잘 정리되어 있어 읽어보시는 걸 추천합니다.

• https://jalammar.github.io/illustrated-transformer/ - denny britz 블로그를 통해 알게 된 Jay Alammar라는 분의 블로그인데, 시각화와 설명이 좋았습니다. 해당 포스트와 연관된 그 이전 포스트들도 참고하였습니다.

• https://nlpinkorean.github.io/illustrated-transformer/ -
  바로 위의 블로그를 한글로 번역한 글입니다. 원문보다는 조금 불편합니다.

• https://nlp.seas.harvard.edu/annotated-transformer/ - 코드와 함께 설명하여 보다 직관적으로 이해가 가능합니다.

• 추가로 아래 게시물을 참고하였습니다.

  • https://pozalabs.github.io/transformer/
  • https://everyday-log.tistory.com/entry/%EB%85%BC%EB%AC%B8-%EB%A6%AC%EB%94%A9-Attention-is-All-You-Need

위 reference들을 주로 참고하였습니다.

추천하는 방법은, 본 포스팅 또는 Jay Alammar의 블로그를 통해 내용 숙지를 한 후에, paper와 네 번째 링크인 havard edu의 코드를 함께 보면 좋을 것 같습니다.

추가로 참고하실 사항은, 제 생각과 comment들(특정 reference가 없는 것들)은 존댓말로 적어놓았습니다. 해당 부분들은 읽으실 때 조금 더 비판적으로 읽으시기를 권합니다.