[네이버 AI부스트캠프] 5주차 회고

또잉의 공부일지·2023년 12월 8일

이번주 키워드

#Transformer의 위대함

요일별 회고

멘토링

  • Sinusoidal Positional Encoding
  • 논문 구현 공부: 구현된 코드 많이 보기!, 부담x

학습

Multi-modal: 여러 형식의 데이터를 한번에 고려하는 방법들(Joint embedding, Cross modal matching, Translating, Referencing)
3D understanding: 기존 2d보다 표현방식이 다양한 3d 처리 방식(3D object detection, 3D segmentation)

강의를 적당히 듣고 논문 리뷰에 집중했다. ViT를 발표하려니 그 기반인 Transformer부터 다시 제대로 정리하자는 마음이 들이 Transformer, Self-Attention, ViT에 관한 글을 차례대로 작성했다.

오프라인 일정으로 네이버 역삼스퀘어에 가서 스페셜 피어세션을 두 번 진행하며 구인구팀을 진행했다. 생각보다 팀을 구하는 데에 에너지가 많이 들어 힘들었다.
기억에 남는 부분들을 메모했다.

타 조 피어세션 활동

  • classificaiton github 작년 코드 분석(다음주에 대회가 있다고 하므로 나도 미리 준비해야겠다)
  • 부덕이 과제 line by line으로 리뷰하기 (무지성 코딩한 거 다시 공부)

이번 프로젝트 관련

  • 서비스는 아이디어가 제일 중요해보인다. AI 모델 이용하는 부분은 대부분 결과 잘 나오는 모델을 앙상블해서 쓸 것 같다.
    • 동물 상태 체크 (돼지)
    • 말벌 detect-> 알림 서비스
  • 데이터셋, 테스크가 정해져 있는 팀에 참여해야 한다.
    • kaggle 데이터셋 이용해도 되나?
    • lv.3 에서는 기업과 연계하여 데이터셋 정해진다
  • "프로젝트에서 뭘 얻을 것인가?" 미리 생각하기
    • ai 리서쳐/ai 엔지니어

구인구팀 보드를 열심히 보며 마음에 드는 주제를 찾았는데 해당 조에 합류하게 되어 좋다.

논문리뷰

ViT 논문 리뷰 발표를 진행했다. 블로그에 글을 정리할 때는 아주 원리가 이해된 듯한 느낌이다가, 발표하면서 또 잘 모르겠는 부분들이 있었다.. Transformer 개념 잡기가 어려운 것 같아서 멘토님께 질문드렸다. 다음주 멘토링 때 공유해주실 것 같다.

Conditional GAN 과제 드디어 마무리... 아무리 코드를 수정해도 좋은 결과가 나오지 않아 오래 고민했다. 궁금한 점이 세 가지 정도 있어 질문을 남겼다.
CLIP 과제는 부담없이 진행할 수 있었는데, 결과값이 너무 잘 나오는 게 신기했다.

마스터 클래스

취업을 위해 필요한 것?

  • 프로젝트에서 어려움을 해결한 경험
  • 커뮤니케이션 능력
  • 창의력
  • Data Augmentation

AI가 적용될 도메인 산업의 크기가 중요하다.

  • 제조, 생산, 금융처럼 큰 산업 공략하기
    • 예) 제조 - 불량품 검출. 제조 기술마다 매번 다른 테크닉이 필요해서 수요가 계속 있다.

피어세션

CV계의 프론트엔드라면 GAN이 있다. (→ 프로젝트 주제를 내 관심분야에 맞게 잘 정한 것 같다.)
게임 분야에서 GAN 적용 사례

  • NPC 모델링
  • NPC 대화 generate

대학원

  • 순수 AI보단 기계, 전자전기, 의료 등 다른 분야와 결합된 AI가 비전 있다고 생각된다. 모델링에만 집중하기보다는 도메인 타겟팅이 중요하다.

어느정도까지 고민해야할까?

  • 타 조 멘토님 의견) 키워드를 면접에서 설명할 수 있을 정도로

다음주 피어세션에서 object detection 코드 리뷰

오피스 아워

KPT 회고

Keep

  • 논문 리뷰, 과제를 하며 능동적인 학습을 했다.
  • 과제를 하며 잘 안되는 이유를 분석했다.
  • 메모하는 습관을 들였다.
  • 주간회고 외에 블로그 글 작성하는 것을 3주째 지키고 있다.

Problem

  • ps를 꾸준히 하지 못했다.

Try

  • ps 매일 하나씩 간단한 것이라도 풀기

4개의 댓글

comment-user-thumbnail
2023년 12월 8일

화이팅~~~@@

1개의 답글
comment-user-thumbnail
2023년 12월 8일

화이팅~~~!!!

1개의 답글