이번년도를 마무리하는 마지막 회고록
Movie Lens 대회
MultiVAE를 이용한 Inference 코드를 완성했고, 제출도 해봤지만 성능이 그렇게 좋지 않았다.(0.06) 이후에 RecBole 라이브러리를 이용해서 MultiVAE 모델을 학습시키고 제출해봤을 때는 성능이 꽤 좋게 나왔었다.(0.13) 아마 학습과정 혹은 inference 과정에서 다른 방법론을 사용했기 때문인 것 같은데, 이 부분은 더 자세히 알아봐야 할 것 같았다.
참고로, 다른 팀원이 DeepFM 미션 코드 부분을 맡았는데 미션코드 기반으로 수행했을 때와 RecBole 라이브러리내의 DeepFM 모델을 활용했을 때의 성능이 다르기도 했다.
강의에서 소개했던 EASE 모델이 단일 모델 기준 생각보다 좋은 성능을 보여줬다.
EASE(Embarrassingly Shallow Autoencoders for Sparse Data, ESAE) 모델의 자세한 주요 아이디어는 다른 포스트에서 다룰 예정이다. (링크)
간단히 설명하자면, 유저-아이템간 interaction을 나타내는 행렬 X를 이용해 아이템-아이템간 가중치 행렬인 B를 최적화 하는 방식인데, 보통의 딥러닝 모델이라면 B를 가중치 매트릭스로 취급하여 학습하겠지만 B를 변수로 취급하여 closed-form으로 계산하는 아이디어를 적용했다고 이해했다. (XB - X 의 값을 최소화 하는 아이템 가중치 행렬인 B를 찾자)
최종 프로젝트
화요일 오프라인으로 만나서 최종 프로젝트에 대한 아이디어 회의와 궁금했던 점을 여쭤보는 멘토링을 진행했다.
모델의 경우에는 회사의 기밀일 수도 있기 때문에 공개적인 페이지에 올리기 꺼려할 수도 있고 그렇기 때문에 하이퍼파라미터와 예측한 서브미션, 실제 타겟값등만 페이지에 제공해주면, 여러 하이퍼파라미터 조합들에 대한 interactive 한 시각화를 해주는 방법에 걸맞는 하나의 스토리를 제시해주셨는데, 굉장히 설득력있고 좋은 근거가 될 수 있다고 생각했다.
최종프로젝트 멘토링
목요일 온라인으로 2차 회의를 진행했는데, 화요일날부터 쓰기 시작했던 프로젝트 계획서를 어느정도 완성했다. 멘토님이 추천에 관련한 태스크가 없는 것 같다고 지적해주셨지만, 기업연계 프로젝트의 방향성을 고려해보면 추천 모델에서만 쓰일 수 있는 모델에 대한 정성적 평가를 어느정도 시각화 잘 해줄 수 있는지 방법론 혹은 아이디어를 잘 녹여낼 수 있다면 그것이 추천 트랙만이 가질 수 있는 하나의 서비스라고 생각해서 얽매이지 않기로 했다.
따라서 데이터에 맞는 추천 모델을 추천해주는 과정은 빼기로 했고, 기업연계 프로젝트 신청서를 작성할 때 구상했던 아이디어들을 최대한 살리면서 상견례 때 제시해줬던 문제의 방향성에 맞게끔 재설정했다.
최종프로젝트 계획서
한 해를 마무리하며
12월 30일, 오랜친구인 민기와 저녁식사를 하며 올 한 해에 대해 얘기를 하고 카페에 가서 조금은 즉흥적이지만 내년 목표를 그 자리에서 적는 시간을 가졌다. 원래는 혼자 할 생각이었지만 같이 하다보니 놓쳤던 부분에 대해서도 점검할 수 있어서 좋았다.
어찌보면 공개적인 장소인 블로그에 내 한 해 목표를 게시한다는 것이 부끄럽긴 하지만, 내년의 계획이 한낱 마음속의 다짐으로 남지 않길 바라며, 또 내년 이맘때쯤 돌아봤을 때 자랑스러워 하길 바라며 개인 블로그에도 작성하기로 결정했다.
올해는 상반기에 처음으로 취준을 경험해보면서 최종면접 탈락으로 힘든 시기도 있었지만, 그 때 만약 취업에 성공했더라면 내 부족한 점들을 깨닫지 못하고 오히려 자만했을 수도 있다고 생각한다. 그리고 그 이후에 있었던 부스트캠프에 합류할 일도 없었을 것이고 여기서 얻은 많은 것들을 깨닫지 조차 못했을 수도 있다.
조금 과장하자면 오히려 취업에 실패한 것이 더 미래의 나를 위한 일이 아니었을까 싶기도 하다. (오히려 좋아)
2021년에는 성적장학금, AI 연구단, 학부 연구생, 경진대회 수상, 교육과정 합격 및 수료 등 성취를 많이 했던 해였던 것 같다.
2022년은 성취 보다는 성장할 수 있었고, 2023년에는 성장을 바탕으로 다시 한 번 성취해낼 것이라고 믿고, 더 열심히 앞으로 나아가는 내가 될 수 있었으면 좋겠다.
