Day 1. Monday
✏️ 복습
- 인공지능, 머신러닝, 딥러닝 / 지도 학습, 비지도 학습, 강화 학습
https://velog.io/@kupulau/인공-지능-관련-개념-정리 - ML Life Cycle
https://velog.io/@kupulau/ML-Life-Cycle - Linear regression
https://velog.io/@kupulau/Regression-수학적-접근 - 회귀 모델 성능 평가 지표
https://velog.io/@kupulau/회귀-모델-성능-평가-지표 - Ordinary Least Squares
https://velog.io/@kupulau/Least-squares-approximation - Nearest Neighbor classifier
https://velog.io/@kupulau/Nearest-neighbor-classifier - 이미지 분류의 매개변수적 접근 (linear classifier, softmax classifier)
https://velog.io/@kupulau/%EC%9D%B4%EB%AF%B8%EC%A7%80-linear-classifier - 손실 함수
https://velog.io/@kupulau/%EC%86%90%EC%8B%A4-%ED%95%A8%EC%88%98 - gradient descent
https://velog.io/@kupulau/Gradient-descent
🙌🏻 Peer Session
- 매주 월요일 논문 리뷰 계획 수립
- 지난 주말 안부
- 멘토링 시간 안건 회의 : 논문 리뷰 계획 피드백, 코딩테스트 계획 피드백, 데이터 관련 대회 참가 피드백
📋 Memo
공부도 순조롭게 진행되었고 피어 세션에서도 앞으로의 계획이 탄탄하게 잡혀서 무난히 보낸 하루였다. 다만 앞으로는 피어 세션에서도 진행하는 일이 많으니 일과 시간 이후에도 공부 열심히 해야겠다.
Day 2. Tuesday
✏️ 복습
- 인공 신경망
https://velog.io/@kupulau/%EC%9D%B8%EA%B3%B5-%EC%8B%A0%EA%B2%BD%EB%A7%9D - Backpropagation
https://velog.io/@kupulau/Backpropagation - activation function
https://velog.io/@kupulau/Activation-function - weight initialization
https://velog.io/@kupulau/weight-initialization - 적절한 학습률을 설정하는 방법
https://velog.io/@kupulau/적절한-학습률을-설정하는-방법 - Data Pre-processing
https://velog.io/@kupulau/데이터-전처리
🙌🏻 Peer Session
- 각자 조사해온 데이터 경진대회 발표
- 데이터 경진대회 참가 계획 수립
🏠 Homework
- 과제 1 시작. 그러나 너무 어렵다...
📋 Memo
실습 위주였던 지난주와는 다르게 딥러닝의 이론 부분을 다루니 너무 졸립고 압축적으로 집중해서 일하기가 힘들다. 뭔가 방법이 없을까? 그리고 오늘 서로 어떤 경진대회 나가면 좋을지 자료 조사해온 것 발표하고 어떤 것 할지 논의해서 즐거웠다.
Day 3. Wednesday
✏️ 복습
- RNN, LSTM, GRU
https://velog.io/@kupulau/RNN-LSTM-GRU - Seq2seq
https://velog.io/@kupulau/Seq2seq - attention model
https://velog.io/@kupulau/Attention-model - transformer model
https://velog.io/@kupulau/Transformer-model
🙌🏻 Peer Session
코딩 테스트 문제 풀이
- Dynamic Programming 문제는 기본적으로 규칙 찾기! 점화식 등을 이용하자.
- 피드백을 통해 나의 코딩 테스트 풀이는 알고리즘이나 코딩 테스트 문제 유형에 대한 이해 없이 단순히 컴퓨터에게 일을 시키는 것임을 깨달았다. 알고리즘이나 문제 유형에 대한 공부를 많이 하자.
- 다음주도 비슷한 난이도의 DP 문제를 풀고, 그 다음부터는 자료구조, 그래프 탐색 유형 풀이
👶 Mentoring
- small talk : 일주일동안 어떻게 보냈고 적응 잘 하고 있는지
- 피어 세션 계획 피드백
- 강의 내용 리뷰
실무에서 pytorch를 어떻게 활용하는가
찾아볼 키워드 : PyTorch-lightening, deepspeed
PyTorch를 활용해서 한정된 자원, 시간 내에서 많은 실험을 돌릴 수 있는 역량이 실무에서 꽤 중요하다. (병렬 처리 등) - 질의응답
논문을 가려읽자. (AI 분야는 3-4년만 지나도 오래된 논문이다. 오래된 것은 인용 수를 확인하고 읽자)
입문하고자 하는 분야는 survey 논문을 읽는 것이 좋음 - 논문 리뷰 & 스터디 방법 소개
📋 Memo
DL 관련 이론을 들으니 생소해서 강의 진도가 너무 늦게 나간다. 숙제도 잘 못하고 있는데...ㅠ 그래도 오늘 코딩테스트 풀이를 피어 세션에서 하면서 코드에 대한 피드백도 받고 어떻게 풀이하는지 친구들의 풀이를 보면서 많이 배워서 좋았다. 마스터 클래스는 현업 전문가의 날카로운 통찰력을 배울 수 있어서 아주 유익한 시간이었다.
Day 4. Thursday → 광복절 휴일
Day 5. Friday
✏️ 복습
강의 및 복습 Day 3 까지 완료
🙌🏻 Peer Session
- 스페셜 피어 세션 후기 공유
- 팀 회고록 작성
- 코딩 테스트 스터디 계획 수정
- 주말 계획 공유
🏠 Homework
팀원들과 기본 과제 논의
- 과제 data set 이상 논의
- 역전파 시 bias를 sum으로 업데이트 해야하는가 mean으로 업데이트 해야 하는가?
- Xavier initialization 시 bias 초기화
🎁 Special peer session
CV 트랙의 다른 캠퍼들과 이야기할 수 있는 기회였다.
- 각자의 팀 내에서 피어 세션에 어떤 일을 하는지
- 각자의 팀 멘토링은 어떻게 진행되는지
- 학과 간 커리큘럼 차이
📋 Memo
굉장히 바쁜 하루였다. 목요일이 휴일이었어서 모각공 시간에 과제에 대해 논의하고, 스페셜 피어 세션에서 다른 캠퍼들과 얘기를 나눠보고, 피어 세션에서 회고록 작성하면서 다음 주에는 어떻게 더 잘 할 수 있을지 논의하고, 오피스 아워까지 3시간을 연달아 엄청 불태웠다. 일단 좀 피곤하고, 이번 주는 강의 내용을 거의 따라가지 못한 것 같아서 걱정이 된다. 주말동안 마음 다잡고 다시 달릴 수 있도록 해야겠다.
Let it code