[유데미x스나이퍼팩토리] 프로젝트 캠프 : Next.js 1기 - 6주차 프로젝트 회고록

ms_de10·2024년 7월 7일
0

스타일링

관심종목 페이지 스타일 작업완료

새로운 시도

llama 프롬프트 분석
langchain, pipline 연결 시도
원하는 결과값이 나옴 단 속도적인 측면에서 만족스럽지 않음

주식데이터 정제 완료

주식데이터를 가져와서 뿌리는 것까지 완료
페이지에 어떻게 효율적으로 뿌릴지가 고민

서버와 DB에 대한 고민

서버를 열어서 llm 성능을 끓어올릴 수 있을까? 라는 생각이 계속들며, db에 저장시 이게 과연 효율적인지 또한 배포시에는 잘 호환이 될지 여러 생각이 든다...

P.S

6주차에는 스타일 작업이 끝난 상태에서 이제 기능적인 부분에 대해 본격적으로 작업이 들어갔는데 그중 우선순위가 높은 프롬프트 작업을 시작하였다.
그런데 llm api 토큰을 받아오는 부분에서 지속적인 athentication 문제가 생겨서 이러다가는 안 되겠다는 생각이 들어 우선적으로 로컬에서 llm을 사용하여 정확성과 속도를 올린다음 api를 사용해야겠다고 정한다음 langchain을 사용하여 원하는 답을 답변해주는 성능까지는 나왔지만 아직 속도적인 측면에서 로컬에서 처리하다 보니 시간이 좀 걸린다.
그래서 시간을 좀 빠르게 할 방법이 없을지 고민중이다..

0개의 댓글

관련 채용 정보