- 검증 모델을 써서 실제로 성능이 좋아졌다는 그 객관적인 지표가 있을까
객관적인 검증 지표는 없지만 원래는 이슈카드를 생성할때 라벨을 아예 적용을 하지 않는 경우가 있었다. 때문에 사용자가 라벨을 대신 삽입해야하는 경우가 있었는데, 검증모델을 따로 둔 이후부터는 그런 경우가 현저히 적어졌다.
- 이슈가 자동생성될 때 일관적인 결과물을 보여줄 수 있나
LLM모델의 성능 한계상 완벽하게 일관적인 결과물을 보여주지는 못한다. 하지만 똑같은 회의록을 여러번 넘겨본 결과 어느정도의 일관성은 유지하고 있다. 캐시를 통해서 이전에 작성했던 회의록의 대답을 미리 저장하는 방법도 생각해보았는데, 그러면 LLM모델이 잘못된 대답을 이야기 했을 때 이를 다시 생성할 방법이 없어 문제가 생길것 같아 도입하지 않았다.
- 검증모델과 생성모델 사이에 어떤 차이점을 두었나
먼저 두 모델은 모두 응답의 속도를 최대한 빠르게 하기 위해 두 모델 모두 Gemini flash Lite를 사용하였다. 생성모델은 일단 생성해보는 것이기 때문에 온도값을 1.2 정도로 상승시켜서 좀더 다채로운 이슈를 최대한 많이 생성하도록 하였다. 하지만 검증모델은 항상 비슷한 검증을 하고 테스트를 해야하기 때문에 온도값을 0.5정도로 낮춰서 이슈 생성 결과의 정확성을 높이기 위해 노력했다.
- 로그인할 때 JWT 토큰과 리프레시 토큰은 어디로 저장되었나
JWT토큰은 쿠키로 저장하고 리프레시 토큰은 로컬 스토리지에 저장하였다. DB에 사용자의 토큰을 조금이라도 저장한다면 보안 문제가 생길 수 있기 때문에 이렇게 하였다.
응애