serving을 통해 나만의 도커 이미지 배포하기

woosangchul·2022년 3월 28일
0

텐서플로에서 제공하는 TF-serving을 통해 도커환경에서 나만의 모델을 학습시킨 서버를 실행시킬 수 있었다. 하지만 로컬에 있는 serving 모델을 불러오다 보니 아마존 환경에서 실행시키기 위해 serving 모델을 내장한 나만의 이미지를 만들 필요성이 생겼다.

참고 : https://github.com/woosangchul/serving/blob/master/tensorflow_serving/g3doc/docker.md

기본이미지 생성

tensorflow에서 제공하는 기본 docker 이미지를 serving_base라는 이름으로 실행시킨다.

docker run -d --name serving_base tensorflow/serving

로컬에 저장한 학습된 모델을 실행한 docker 컨테이너로 복사한다

docker cp models/<my model> serving_base:/models/<my model>

도커이미지를 외부로 내보낸다

docker commit --change "ENV MODEL_NAME <my model>" serving_base <my container>

스프링부트 서버 실행방법

0개의 댓글

관련 채용 정보