quod erat demonstrandum...
LLMs 을 하면서, vectorDB 를 하면서, LangChain 을 하면서..
해보고 싶었는데, 생각보다 빨리 끝났다..
일단, 특이사항.
- raspberry pi 에서 locale 을 en 에서 ko 로 교체, 리붓 후 모든 언어가 다 깨진다.
sudo apt-get install fonts-unfonts-core이후 모든 것이 정상으로 보인다.
이제 지금 테스트 이후에는
- 데이터 수집
- 데이터 정제
- 벡터 디비 저장 및 조회
- 언어 모델 finetuning
- 디비, 모델 업그레이드
정도로 볼 수 있을 듯 하다.
현재 Raspberry Pi 는 귀여운 것을 넘어선 말 그대로 컴퓨터 가 되어 버렸다.. 내 shot-term project 를 3달로 잡았는데 1달? 정도 걸린 것 보면.. 진짜 맘먹고 회사에서 덤비면.. 기대 이상의 결과물이 나올 것이라 생각된다.. 뭔가 무섭기도 하고..
final-test
text
Transcription : [안녕? 넌 누구야?]
LLM result : [안녕! 나야, AI 조수야. 잘 지내니? 오랜만에 보자구나! 난 언제나 네 곁에서 궁금증을 풀어주고 질문에 답해줄 준비가 되어 있어. 오늘 무슨 재미난 이야기나 할 이야기가 있니? 아니면 도움이 필요한 것이 있으면 말만 해줘, 최선을 다해 도와줄게. 😊]
query
voice
https://drive.google.com/file/d/1CNFNcObrHEGjsyFLFsdTY0lqoyCdwLm8/view?usp=drive_link
answer
voice
https://drive.google.com/file/d/1CF3od-c_WPleHzF-36aWlBG36dEVUC0t/view?usp=drive_link
video
질문은 5초 안에 끝나는데, 답을 하고 결과가 나올 때 까지 20초 정도 걸린다. 아무래도.. 언어 모델 갔다 오고, 음성 변환해서 틀어주는 것 까지의 시간이 걸릴 듯 하다.
3천원 짜리 핀마이크와 5천원 짜리 스피커로 인하여 셋팅이 불안정하다.
video
https://drive.google.com/file/d/1CD6sjZuBiIcy2zKk34U9nOsqEpN7nXXx/view?usp=drive_link
result
실제 경량화가 필요하고, 답이 길어지면, 그에 맞는 말을 mp3 로 저장해서 틀어주기 때문에 속도가 더 느려질 듯 하다. 내용과 길은 다 뚫었으니.. 고도화 작업으로 넘어가야 할 듯 하다. 이건 하고 싶을 때 할 예정..
가장 큰 문제는 말이 너무 많다.. 이녀석 ^____^
to be continue !!
나의 short-term project 가 끝났다. middle-term project 를 향해 갈 것 같다. 대략 1년 짜리 프로젝트로 기획되어 있다.
