# BentoML

jooyeon

프로젝트에서 모델 서빙 프레임워크로 BentoML을 사용하고 있고, boto3를 사용해서 AWS S3에 객체를 업로드 하고자 했다. 프라이빗 버킷에 접근하기 위해서 AWS credentials을 Bento에 전달해야 했고, 아래와 같이 BentoML에 나와있는 방식으로

dev_halo

사내에서 병원의 마약 이미지를 이용하여 마약을 분류하는 모델을 개발하였습니다.이 모델은 Yolov5를 이용해 개발하였고 pytorch 기반으로 작성하였습니다.실제 배포방식을 고민하며 flask보다 API Serving이 좋다고 소문나있는 BentoML에 얹는 방법을 공

perfitt

기존에 Flak로 만들어진 서빙 앱의 성능 이슈 및 ML 개발자 친화적으로 배포 프로세스를 정립하기 위해 BentoML을 도입하게 되었습니다. BentoML로 서빙 앱을 만들고 배포까지, 한 사이클을 구현하고 싶은 분들에게 도움이 되었으면 좋겠습니다.

ththth663

Serving 라이브러리, BentoML이란? BentoML같은 serving 라이브러리가 없을 땐 AI 모델을 이용한 서비스를 배포하기 위해 FastAPI와 같은 것을 이용해 직접 API를 만들곤 했다. FastAPI로 백엔드를 구현하려면 따로 알아야 할 것들도 있