43일차. 여러 LLM 인스턴스를 동시에 제어하는 방법 공부.

제로켄·2025년 1월 19일
0

Kyla Unit-00

목록 보기
41/44
  • 실시간으로 보이지만, 사실은 그렇지 않다는 점을 깨달았다.
  • 채팅의 경우는 지연이 다소 생겨도 용인 가능하다.
  • 음성 대화의 경우에는 우선 음성을 생성하고 재생하는 동안 다른 작업을 동시에 수행해도 티나지 않는다.
  • 이점을 참고해서, 응답과 응답 사이에 백그라운드에서 정보를 더 높은 해상도로 이해하고 처리하기 위한 태스크를 돌리기로 했다.

0개의 댓글