# TorchScript

2개의 포스트
post-thumbnail

Netron으로 딥러닝 모델 구조 시각화 하기

Netron이란? Netron은 딥러닝 모델의 아키텍쳐의 시각화를 도와주는 툴이다. 간단한 drag&drop으로 학습 완료한 딥러닝 모델의 아키텍쳐를 확인할 수 있다. Input과 Output의 shape, data type(자료형) 뿐만 아니라 어떤 activation function을 사용하였는지 상세하게 나온다. Tensorboard에도 비슷한 시각화 기능을 지원하지만, Netron은 추가적인 코드를 작성하지 않고 모델만 업로드하면 모델 아키텍쳐를 시각화 할 수 있어 더 편리하다. Netron Github: https://github.com/lutzroeder/netron 시각화를 지원하는 모델 가장 많이 사용하는 PyTorch와 TensorFlow를 아직 실험적으로 지원하고 있지만,

2023년 2월 21일
·
0개의 댓글
·
post-thumbnail

[MLOps] Inference Model Format

딥러닝 모델을 학습하고 나면.. PyTorch와 같은 딥러닝 프레임워크를 통해 학습한 모델을 실제 product에서 활용하려면 아래와 같이 모델의 변환이 필요하다. Eager Mode prototyping, training, experimenting에 적합함 Script Mode production deployment가 가능하도록 최적화 된 모델 모델 서빙 형식 Production 용(?) 모델 포멧은 아래와 같이 여러가지가 있는데, 파일의 확장자라고 생각하면 쉽다. 1. TensorRT (model.plan) NVIDIA에서 만듦. 학습된 Deep Learning 모델을 최적화하여 NVIDIA GPU 상에서의 Inference 속도를 수배~수십배 까지 향상 가능 다만,

2023년 2월 16일
·
0개의 댓글
·