Inference

Paper : https://arxiv.org/pdf/2011.02327.pdf하드웨어와 소프트웨어의 영향을 모두 고려한 성능 벤치마킹 없이 이러한 모델을 배포하면 종종 서비스 품질이 저하되고 운영 비용이 증가할 수 있다. 하여 위 논문에서는 DL 모델의 배포

: 딥러닝 모델을 서로 다른 프레임워크 간에 서로 옮길 수 있도록 하는 오픈 소스 프로젝트모델을 중간 계층 형식으로 변환하고 모델을 실행하는 데 필요한 라이브러리를 제공다양한 플랫폼 환경(Java, JS, C, CONNX Runtime 이란?: ONNX 모델을 실행하기