Product Serving

Serving이란? Production(Real World) 환경에 모델을 사용할 수 있도록 배포하는 것 ‘머신러닝 모델의 서비스화’ 모델을 연구하는 환경 이후에 진행되는 작업 Input을 Model에게 주입하면 모델이 Output을 반환 Model은 머신러닝 모델,

일정 기간 데이터 수집 후 일괄 학습 및 결과 제공하는 특성이 있음대량의 데이터 처리할 때 효율적인 방식이다.Batch Serving은 예측 코드를 주기적으로 실행해서 예측 결과를 제공Job Scheduler는 Apache Airflow를 주로 사용Batch Proce

웹 프로그래밍의 기본 원리와 중요한 개념을 배워보자 Oneline Serving 실시간으로 데이터를 처리하고 즉각적인 결과 반환 실시간성을 요구하는 경우에 유용 주로 Cloud나On-Premise 서버에서 모델 호스팅 후 요청 들어오면 모델이 예측반환하는구조 예시)

FastAPI란? 대표적인 python web framework이다. fastapi 전에 django,flask가 유명했지만 fastapi가 나오면서 가장 대표적인 web framework이다. FastAPI 특징 High performance node.js, go와

Docker의 핵심 개념인 가상화부터 알아보자개발을 진행한 Local 환경과 Production 서버 환경이 다른 경우가 있다.예를 들어 local은 window이지만 서버는 linux라면 모든 설치가 그 환경에 맞게 다르게 진행되어야 한다.또한 Local 환경과 서버

Cloud 웹, 앱 서비스를 만드는 경우 자신의 컴퓨터(localhost)로 서비스를 만들 수도 있다. 그러나 이런 경우 자신의 컴퓨터가 종료되면 웹, 앱 서비스도 종료된다. 이런 경우 전통적인 해결 방법은 물리적 공간, 확장성을 고려한 서버실을 만들고 운영해야 한

현업에서의 개발 프로세스 Local 각자의 컴퓨터에서 개발한다. 각자의 환경을 통일 시키기 위해 Docker, poetry등을 사용한다. Dev 개발 환경인데 local에서 개발한 기능을 테스트 하는 환경이다. test 서버를 띄우고 개발한다. Staging Pro

모델관리 모델 관리가 왜 필요할까? 만약 우리가 집에서 요리한다고 했을 때 요리한 것들을 레시피로 정리해야 어떤 조합이 좋은지 알 수 있다. (여러 시행착오를 겪으면서 요리를 하기 때문이다.) 그 레시피 중에서 젤 좋은 레시피를 레스토랑(실제 서비스)에서 사용될