AI Deep Dive

Model 내부에서 Normalize 하는데 특정 차원에 대해서 Norm을 하고 싶은데 어떻게 해야 할까?

NLP Task를 예시로 Probability, Likelyhood, MLE, NLL, CE 까지 알아보기.

모델크기와 모델 Load 에 필요한 RAM, 모델 Inference/Train 시 필요한 RAM 을 알아보자.

L1 & L2 개념과 그 개념을 확장하여 접목한 여러 technique 들을 이해해보자 (Norm, Loss, Regularization)