안녕하세요! 오늘은 제가 참여하고 있는 패스트캠퍼스 Upstage AI Lab 3기 부트캠프에서 진행된 PyTorch 강의와 그 과정에서 만난 훌륭한 강사님과 멘토님에 대한 후기를 자세히 나누고자 합니다. 딥러닝에 대한 깊은 이해와 실무 역량을 키우기 위해 시작한 부트캠프에서, 이번 PyTorch 강의는 저에게 많은 영감을 주고 큰 성장의 기회가 되었습니다.
강의 소개 및 목표
이번 강의는 딥러닝 프레임워크 중 하나인 PyTorch를 중심으로 진행되었습니다. 딥러닝 모델링을 할 때 모든 코드를 처음부터 작성하기보다는 프레임워크를 활용하여 효율적으로 구현하는 것이 중요하다는 것을 다시 한 번 느낄 수 있었습니다.
강의의 주요 목표는 다음과 같았습니다:
- PyTorch를 이용하여 다양한 딥러닝 모델 구현에 필요한 텐서 연산을 자유자재로 다룰 수 있다.
- 기본적인 딥러닝 모델들을 직접 구현하여 학습 및 추론할 수 있다.
- 다양한 라이브러리에 구현되어 있는 딥러닝 모델을 손쉽게 사용하고, 구현 과정에서 생기는 다양한 에러들을 해결할 수 있다.
김윤기 강사님 소개
이번 강의를 이끌어주신 김윤기 강사님은 Upstage에서 AI 리서치 엔지니어로 활동하고 계십니다. 특히 추천 시스템(RecSys) 분야에서 풍부한 경험을 가지고 계시며, 다양한 프로젝트를 성공적으로 이끌어오셨습니다.
강사님은 한양대학교에서 컴퓨터공학 석사 학위를 받으셨고, 빅데이터사이언스 연구실에서 멀티미디어 추천 시스템 등을 연구하셨습니다. 이러한 실무와 연구 경험을 바탕으로 강의 내용에 깊이를 더해주셨습니다.
강의 내용 상세 소개
1. PyTorch 소개 및 환경 설정
강의는 딥러닝 프레임워크를 사용하는 이유와 그중에서도 PyTorch를 선택하는 이유에 대한 설명으로 시작되었습니다. 실제로 PyTorch는 유연성과 직관적인 코드 작성이 가능하여 많은 연구자와 개발자들에게 사랑받고 있습니다.
환경 설정 부분에서는 Anaconda를 활용하여 PyTorch를 설치하고, GPU를 활용한 연산을 위해 CUDA 설정까지 상세하게 안내해주셨습니다. 처음에는 복잡하게 느껴졌지만, 강사님의 친절한 설명 덕분에 무리 없이 진행할 수 있었습니다.
2. 텐서 조작(Tensor Manipulation)
딥러닝의 기본이 되는 텐서(Tensor) 연산에 대해 깊이 있게 다루었습니다. 텐서의 개념부터 시작하여 PyTorch에서 텐서를 생성하고 조작하는 방법을 실습을 통해 배웠습니다. 특히 브로드캐스팅(Broadcasting)과 스파스 텐서(Sparse Tensor)의 개념은 조금 어려웠지만, 실제 코드를 작성하며 이해할 수 있었습니다.
3. 딥러닝 모델 구현
이 부분은 제가 가장 흥미로웠던 부분입니다. 기본적인 딥러닝 모델(DNN, CNN, RNN)을 직접 구현하고 학습시키는 과정을 경험했습니다.
- DNN 구현: 간단한 완전 연결 신경망을 만들어보면서, 데이터셋과 데이터로더를 구성하고 모델을 정의하는 과정을 배웠습니다.
- CNN 구현: 이미지 분류를 위한 합성곱 신경망을 구현했습니다. MNIST와 CIFAR-10 데이터셋을 활용하여 다양한 모델을 실험해보았습니다.
- RNN 구현: 순환 신경망을 활용하여 텍스트 데이터의 다음 단어를 예측하는 모델을 만들었습니다. LSTM과 GRU 등 다양한 아키텍처를 직접 구현해볼 수 있었습니다.
4. 전이 학습(Transfer Learning)
딥러닝 모델을 처음부터 학습시키는 것이 아닌, 사전 학습된 모델을 활용하여 새로운 작업에 적용하는 방법을 배웠습니다. timm 라이브러리와 Hugging Face를 활용하여 이미지와 텍스트 분야에서 전이 학습을 실습했습니다. 이를 통해 모델 학습 시간을 단축하고 성능을 향상시키는 방법을 이해할 수 있었습니다.
5. 트러블슈팅(Trouble Shooting)
모델을 학습시키다 보면 여러 가지 에러와 버그를 만날 수 있습니다. 이 강의에서는 TensorBoard와 Weights & Biases(WandB)를 활용하여 학습 과정을 모니터링하고, 디버깅하는 방법을 배웠습니다. 특히 WandB는 실험 관리에 큰 도움이 되었고, 앞으로 프로젝트에서 적극 활용할 예정입니다.
6. PyTorch Lightning과 Hydra
마지막으로, 복잡한 딥러닝 코드를 효율적으로 관리하기 위한 PyTorch Lightning과 Hydra에 대해 배웠습니다. PyTorch Lightning을 통해 코드를 모듈화하고 가독성을 높일 수 있었으며, Hydra를 통해 하이퍼파라미터를 체계적으로 관리하는 방법을 익혔습니다.
성예닮 멘토님과의 멘토링
강의 기간 동안 성예닮 멘토님께서 멘토링을 담당해주셨습니다. 멘토님은 Slack 채널을 통해 매일 유용한 자료와 읽을거리를 공유해주셨고, 질문에도 성심껏 답변해주셨습니다.
인상 깊었던 멘토링 활동
- 읽을거리 공유: 매일 딥러닝과 PyTorch에 관련된 흥미로운 기사나 튜토리얼을 공유해주셔서 추가 학습에 큰 도움이 되었습니다.
- 질문 답변: 제가 텐서의 전치(transpose) 연산에 대해 궁금한 점이 있었는데, 멘토님께서 상세하게 설명해주셔서 개념을 명확히 이해할 수 있었습니다.
- 학습 방향성 조언: 인공지능의 역사와 발전 방향에 대해 고민해보라는 멘토님의 조언은 앞으로의 학습 계획을 세우는 데 큰 도움이 되었습니다.
개인적인 소감
이번 PyTorch 강의를 통해 딥러닝 모델을 구현하고 학습시키는 전 과정을 경험할 수 있어 정말 유익했습니다. 특히 강사님과 멘토님께서 실무 경험을 바탕으로 현실적인 조언과 지식을 전달해주신 점이 인상 깊었습니다.
또한, 복잡한 개념들도 단계별로 차근차근 설명해주셔서 이해하기 쉬웠습니다. 앞으로 딥러닝 분야에서 더 깊이 있게 공부하고 싶은 열정이 생겼습니다.
마무리하며
패스트캠퍼스 Upstage AI Lab 3기 부트캠프는 저에게 큰 도전이자 성장의 기회였습니다. 훌륭한 강사님과 멘토님 덕분에 딥러닝에 대한 이해도가 한층 높아졌습니다. 앞으로도 이곳에서 배운 지식과 경험을 바탕으로 지속적인 성장을 이어나가고 싶습니다.
마지막으로, 강의 준비와 멘토링에 힘써주신 김윤기 강사님과 성예닮 멘토님께 진심으로 감사의 인사를 전합니다.
