0. 공통

• 일단 저는 한솔데코라는 인테리어 회사의 신사업전략팀에서 LLM 모델 개발을 하고 있는 손승운 대리입니다.
• 지금 작성하는 글의 목적은 제가 직접 겪은 문제들을 기록하여 1. 앞으로 같은 문제가 발생했을 시 원활하게 해결하기 위함이 첫번째고, 2. 저와 같은 문제를 겪었을 다른 신입 개발자들에게 도움이 되는 정보를 제공하고자 함이 두번째 목적입니다.

1. 개요

• stt 프로토타입을 만드는 과정에서 커널이 자꾸 죽는 현상이 발견됐습니다.
• cpu로 돌렸을 때는 발생하지 않던 에러가, gpu로 돌리면 커널이 죽는 것을 확인했습니다.

2. 해결과정

• 먼저 인터넷 조사를 해보니 jupyter_notebook_config.py에서 c.Notebook.max.size의 값을 늘리라는 글이 가장 많았습니다
  • jupyter_notebook_config.py의 위치는 ./jupyter에 있다고 하는데, 저는 없었습니다.
    • 그래서 추가적으로 확인해보니 cmd에 jupyter notebook --generate-config 라는 명령어를 입력하면 jupyter_notebook_config.py 위치를 알 수 있다고 하여 입력했습니다.
    • 그러자 ./jupyter 폴더에 위치한다는 메시지와 함께 jupyter_notebook_config.py가 생겼습니다?
    • 어쩐지 명령어에 --generate-config 있더니만 생성하는 명령어였나 봅니다.
  • 저는 부푼 마음을 가담듬고 jupyter_notebook_config.py에서 c.Notebook.max.size=100000000로 변경했습니다.
  • 하지만 여전히 커널이 자꾸 죽었습니다.
• faster-whisper를 버려야 하나? 하고 있었는데, 해결책을 찾았습니다.
  • 바로 아래의 명령어를 입력하는 것입니다.

    sudo apt update
    sudo apt install nvidia-cudnn

<성공>

저와 같은 어려움을 겪은 분들이 도움을 받았으면 좋겠습니다.