배운 점

새로운 키워드

인사이트

• ViT는 진짜 무겁다. 처음 돌리는데 epoch 1번 반복하는데 10분이 넘게 걸린다... AI는 하드웨어 혹은 인프라 싸움...?
• 트랜스포머 리뷰! 인코더: 셀프-어텐션(Q=K=V) + 피드포워드(렐루), 디코더는 미래 정보를 반영하지 않기 위해 look-ahead 마스킹

좋았던 점

• 봐도 봐도 까먹는 트랜스포머를 이번에 각잡고 제대로 정리했다.
• MLOps 스터디 모집을 했다. 커리큘럼이 어떨지 모르겠다. 일단 너만 오면 ㄱ

아쉬운 점

• 과제를 하는데 헷갈리는게 많았다. 아직 개념 소화가 제대로 안 된 듯...