TF vs Pytorch

Hansss·2021년 11월 29일

Deep Learning

목록 보기

5/10

Pytorch와 TensorFlow 둘 다 프레임 워크다.

컴퓨터 프로그래밍에서 소프트웨어 프레임워크는 복잡한 문제를 해결하거나 서술하는 데 사용되는 기본 개념 구조이다.

간단히 뼈대, 골조, 프레임워크라고도 한다. 이렇게 폭넓은 정의는 이 용어를 버즈워드(buzzword)로서, 특히 소프트웨어 환경에서 사용할 수 있게 만들어준다.

buzzword : 유행어

프레임워크는 복잡한 문제를 해결하기 위한 개념, 기능이 있는 구조로서, 딥러닝 관점에서 보는 복잡한 문제는 딥러닝 모델을 설계하고, 추론하는 것이 포함된다고 할 수 있다.

TF는 2015년에 출시되었고, 구글이 만들었다. 정적 그래프를 바탕으로 모델을 설계하고 추론하는 형태로 개발되었다.

정적 그래프

매 반복 단계에서 기존에 구축된 정적인 동일한 연산 그래프에 running하는 방식으로 동작

동일한 그래프를 반복적으로 사용하게 되므로 그래프에 대한 최적화를 할 수 있는 장점

단점으로는 모델을 설계하는 데 있어서 조건 분기가 들어가는 경우 등에 대해 새로운 그래프를 접근할 수 없는 점과, 값을 다 따로 입력 해줘야 한다는 특징이 있다.

쉽게 말해서 모델을 커스텀하는게 불편하다

Facebook에서 동적 그래프에 기반한 Pytorch를 출시했다.

동적 그래프

동작 시 매번 새로운 그래프를 만들게 되어 다양한 조건에 대해 대응 가능하다.

유연한 모델 제작에 유용하다.

이러한 특성은 최신 연구에 적합한 학계 쪽에 중심이 되었고, 이런 말까지 나오게 되었다.

연구는 PT, 생산은 TF
회사에서는 TF, 집에서는 PT

정적 그래프와 동적 그래프의 차이를 정확하게 모르겠네용,,

딥러닝 연습생