Day 1. Monday
✏️ 복습
- Large Language Model 동작 원리, architrecture, corpus, instruction tuning
https://velog.io/@kupulau/Large-Language-Model
👶 Mentoring
- 논문 읽는 법 / 활용법
🙌🏻 Peer Session
- status 공유
- tmi
- Level3 동안 피어세션 시간을 어떻게 활용하면 좋을지 생각해보기
📋 Memo
오늘부터 level3가 시작되었다. 지난 3달 동안 숨가쁘게 강의와 대회를 병행해오다가 강의 및 학습만 진행되니 마지막으로 숨돌릴 틈이 생긴 것 같아서 좋다. 하지만 level 2의 마무리가 좋지 못한 것 같아서 슬프다. 오늘이 코드 리뷰와 랩업 리포트 마감일이었는데 마감 시간이 다가와서야 부랴부랴 공유 문서로 랩업 리포트 각자 짜깁기하고 코드 리뷰도 1시간 여유면 괜찮겠지 하다가 merge다가 충돌 문제 나서 해결 못하고 파일 날리고 기록이랑 브랜치 꼬이고 난리가 났다. 결국 명확히 해결하지 못하고 팀원이 필요한 파일을 전부 다운받은 다음 merge로 바로 commit하는 임시방편을 하고서야 제출할 수 있었다. 다음부터는 미리미리 잘 정리할 수 있어야겠다ㅠ
Day 2. Tuesday
✏️ 복습
- PEFT, LLM의 평가
https://velog.io/@kupulau/Large-Language-Model
🙌🏻 Peer Session
- 팀 내 이력서 피드백
📋 Memo
오늘은 매우 알찼다. 마스터 클래스에서 산업 공학의 측면에서 AI를 생각하는 관점을 배울 수 있었다. 그리고 피어 세션에서 이력서 피드백을 주고 받으면서 동료들에 대해 더 잘 알게 되었기도 하고, 어떻게 이력서를 수정하면 좋을지에 대해 배운 것도 많았다. 계속 강의 열심히 듣고 정리하면서 동료들과 알차게 성장할 수 있도록 해야겠다.
Day 3. Wednesday
✏️ 복습
- GAN, AutoEncoder
https://velog.io/@kupulau/이미지-생성-모델
🙌🏻 Peer Session
- 해커톤 주제 공개까지 피어 세션에서 어떤 활동을 하면 좋을까?
- 코딩 테스트 스터디, 논문 리뷰, kaggle 대회 등
- 일단 해커톤 주제 확정될 때까지는 자유 주제로 공부할 내용 정하기
🏠 Homework
- 기본 과제 1 완료.
hugging face를 통해 LLM을 불러오고 PEFT를 활용해 모델을 튜닝하는 방법을 배울 수 있었다.
📋 Memo
오늘도 굉장히 바쁜 하루였다. 지난 밤에 비상계엄령 이슈로 나를 비롯한 동료들이 잠을 잘 못 잤다. 그래서 데일리 스크럼은 굉장히 간단히 하고 휴식 후 컴퍼니 데이에 참여했는데 2개의 기업에 대해 연속으로 설명회가 있으니 꽤 피곤했다. 그런데다 연속으로 피어 세션...오늘 피어 세션에서는 남은 level 3 동안 피어 세션에서 어떤 것을 하면 좋을지 토의했는데 생각보다 의견이 다양해서 조율하는데 애를 먹었다. 오늘도 거의 80분 가까이 얘기했다. 그래도 어찌저찌 일단 해커톤 주제가 나오기 전까지는 자유 주제로 공부한 것을 정리해서 발표하는 것으로 합의를 봤다. 해커톤 시작하면 충돌할 일이 더 많아지려나? 앞으로도 대화로 잘 풀어나갈 수 있도록 해야겠다.
Day 4. Thursday
✏️ 복습
- Diffusion Models
https://velog.io/@kupulau/이미지-생성-모델
🙌🏻 Peer Session
-
해커톤 주제 확정 전 공부 주제
- video language or video understanding
- video question and answering, video captioning
- mmtracking, mmaction2, mmpose 공부
- 관련 kaggle, 프로젝트 살피기
- 지난 기수 GitHub final project review, 라이브러리 소스 코드 뜯어보기
- kaggle 분데스리가 대회 1등 솔루션 리뷰
-
컴퍼니 데이 및 해커톤 주제 논의
🏠 Homework
- 기본 과제 2 완료.
학습된 LLM을 LM-Evaluation-Harness라는 평가 framework를 이용해 평가하는 방법을 배울 수 있었다.
📋 Memo
무난한 하루였다. 강의 듣고 실습 따라하는 하루. 사실 이번 주 강의에서 내가 NLP 쪽은 잘 몰라서 LLM은 귀에 잘 안 들어오고 지루했는데 이미지 생성 쪽으로 가니 재미가 훅 생겼다. 관련해서 이미지 생성 더 해보고 서비스 배포 연습도 해보고 싶어졌다.
Day 5. Friday
✏️ 복습
- 이미지 생성 모델의 평가
https://velog.io/@kupulau/이미지-생성-모델
🙌🏻 Peer Session
- 팀 회고록 작성
- 잘한 점 : 강의를 열심히 듣고 정리했다. 피어 세세션 시간을 알차게 보낼 방법을 고민했다.
- 아쉬운 점 : 밀린 일을 보충하는 것을 소홀히 하였다. → 마지막 보충의 기회이므로 더 열심히 남는 시간에 공부를 할 수 있도록 노력하기!
- 도전할 점 : 배운 내용을 바탕으로 multi-modal (특히 VLM)에 대해 더 공부하고 직접 사용해보기
- 키워드 : LLM, diffusion, generative AI
🏠 Homework
- 기본 과제 3 완료.
BLIP을 이용해 이미지 캡션을 생성하고 custom dataset을 구축한 뒤 StableDiffusion 모델을 LoRA 방식으로 학습하고 추론하는 방법을 배웠다.
📋 Memo
오피스 아워 시간에 이상치 탐지 분야에서의 생성 모델 활용이라는 주제의 세미나를 들었는데 덕분에 이상치 탐지 분야에 흥미가 생기기 시작했다. 처음에는 너무 낯선 주제라서 막연하게 어려울거라 생각했는데 정상일 때의 데이터와 이상일 때의 데이터를 학습시켜 이상치를 찾아내는 생각보다는 단순한 주제였다. (물론 실무로 들어가면 복잡하고 어렵겠지만) 특히나 여러 분야에서 응용해서 쓸 수 있는 중요한 주제라는 점에서 흥미가 더 가기 시작했다. 게다가 여기에 부족한 정상/이상 데이터를 보충하기 위해 생성모델까지 활용한다고 하니 정말 창의적으로 문제해결을 잘 한 느낌이라 절실히 배우고 싶어졌다. 아직 이번 주 복습도 덜했지만 열심히 보충하고 이런 것들을 더 배울 수 있도록 해야겠다.
