stmp 와 언어 변역, 로컬환경 테스트 결과

프로젝트전공부·2025년 2월 8일

영상을 업로드 하고 해당 업로드 파일에 자동으로 자막을 달는 기능을 만들어 봅시다.
이때 자막은 3가지 종류로 달아야 합니다.

아래와 같은 아키텍처를 가집니다

로컬환경 으로 개발하기

어떠한 물리적인 api 를 사용하지 않고 만듭니다.
https://github.com/sengwoong/TranslationService_HTML
해당 폴더에 어떠하게 만들어 졌는지 대략적이게 확인이 가능합니다.

원래는 Whisper-large-v2 을 사용하여야 인식이 됩니다.
하지만 너무나도 cpu 사용량이 높아서 가장작은 모델을 사용 하였습니다.
하지만 그럼에도 불구하고 너무 높은 cpu 사용량을 보입니다.

로컬pc 기준에서 50퍼 정도의 사용량을 가집니다.

t3.2xlarge
USD 0.3328
cpu 8
memory 32GiB
이며 이는 1일 기준하여 11,655원이 발생합니다.
(2분 영상 기준하에 가장성능이 안좋은 모델 사용시 3분정도 소요됩니다.)
그리고 무려 두개의 요청상황을 제어 할 수 있습니다.
또한 모델을 다운받으면 언어하나당 4gb 이상의 비용이 청구 됩니다.

그래서 해당 전문적인 커스텀 api 를 만들기 힘들기 때문에 chathpt 와 Whisper를 api로 받아서 10분당 건당 200원의 비용을 발생 시키는 로직을 만들어 볼가 합니다.

profile
프로젝트전에 해당 부분을 깊게 공부한것을 올려두는 벨로그

0개의 댓글