오늘 학습 내용
1. PyTorch
1. PyTorch
-
AI 딥러닝 분야에있어 선두적인 라이브러리에는 PyTorch와 TensorFlow 두개가 있다.
-
Keras는 High-Level API 에 해당하며, Warpping 역할의 느낌이다.
-
TensorFlow와 PyTorch는 Keras에 비해 Low-Level이며, 최근 TensorFlow와 Keras는 하나로 합쳐졌다 볼 수 있다.
-
Keras + TensorFlow 또는 Keras + PyTorch 사용가능.
-
TensorFlow는 Graph를 사전에 정의하고 실행시점에 데이터를 Feed 하는 Static한 방법을 사용한다.
-
PyTorch는 실행을 하면서 Graph를 정의하는 Dynamic한 방법을 사용한다.
DCG, Dynamic Computational Graph -
DCG 방법은 즉시 확인 가능하다는 장점이 있다.
-
PyTorch는 GPU 지원과 사용하기 편한 API의 장점이 있으며, TF의 경우는 Production과 Scalability의 장점이 크다.
-
따라서, 학회나 논문에서는 즉각적으로 결과값 확인이 편한 PyTorch의 선호도가 높으며, 기업이나 회사에서는 제품과 Scalability의 측면에서 TF의 선호도가 높다.
-
PyTorch는
Numpy + AutoGrad + Function라고 볼 수 있다.
소감
부스트캠프 2주차의 시작이다. 오늘은 PyTorch의 기본적인 지식과 TF와의 차이점 위주로 강의를 들었다. 또한, Visual Studio code를 통해 Colab과 연동하법 마지막으로 GitHub에 올라와있는 PyTorch Template 하나를 분석해보는 시간을 가졌다. 방금 전까지 PyTorch 실습 과제를 진행 중이었는데, 난이도가 상당히 어려워 해매는 중이다. 과제는 학습정리회고에 한번에 올리기 어려울 것 같아 따로 나눠 포스팅 할 계획이다.
