Reference

• Deep Learning 프레임워크 비교
• PyTorch로 시작하는 딥 러닝 입문
• WELCOME TO PYTORCH TUTORIALS

Computational Graph

: 미분을 하기 위해서는 backward propagation을 해줘야 되기 때문에 그래프로 표현해야 한다.

연산 과정을 그래프로 표현

Tensorflow

• Define and Run : 그래프를 먼저 정의 → 실행 시점에서 데이터 feed 제품 출시 할때, 클라우드 연결, multi gpu(TPU 지원) 등 장점이 있음 데이터가 들어가야만 확인이 가능
  

PyTorch

• Define by Run (Dynamic Computational Graph : DCG) : 실행 시점에 그래프 생성 debugging : 중간중간 확인할 수 있다는 큰 장점 (pythonic code) 구현이 쉽다는 장점 → 논문 구현 GPU support, Good API and community
  

파이토치 짱이야! - Andrej Karpathy : 테슬라 AI leader

PyTorch 장점 요약

• Numpy numpy 구조를 가지는 tensor 객체로 array 표현
  
• AutoGrad 자동 미분을 지원하여 DL 연산 지원
  
• Function 다양한 형태의 DL 함수와 모델 지원 ex) Dataset, Multi GPU, Data augmentation