펠로우 모니터암 사세요..
카프카 써보고 싶었는데... 대용량 처리에 적합해서 오히려 1개씩 질문이 오는 경우에는 래빗앰큐보다 느릴수 있다넹.. 까비
gradio에서 fastapi 내부에 있는 함수들을 콜링할때 다른 컨테이너에 있으면 아무래도 속도가 느려짐. 그래서 gradio랑 fastapi를 supervisor을 써서 1개 컨테이너 안에 넣었더니 이번에는 로그가 뒤섞여서 딱히 좋을일 없겠다 싶어음. 사실 함수를 가져와서 분리하면 되긴 하는데... 그게 코드 일관성이 떨어질듯해서 그냥 다소 무거워도 gradio랑 fastapi 모두 똑같은 이미지를 사용하는 방식으로 감.
[✔️] 1차 리팩토링
[ ] websocket 스트리밍
[ ] 로커스트나 성능테스트 할 만한거
[ ] redis+rabbitmq
[ ] 로깅
[ ] 시간되면 리팩토링