1️⃣ 진행 상황 보고
매주 월요일 아침에는 팀별로 한 명씩 각 팀의 진행 상황을 보고한다. 이번 주 보고는 내가 맡게 되었다. 갑작스레 맡게 되어 어떻게 보고해야 할지 막막했는데, PM님께서 저번 주 우리 팀의 진행 방향을 간결하게 정리해 주신 덕분에 큰 차질 없이 진행 상황 보고를 마칠 수 있었다.
📢 보고한 내용
보고한 내용, 즉 지난 주 우리 팀이 한 일을 간략히 말해보자면:
- 기획 방향 수정을 위한 조사, 모델 성능 테스트, 화면 설계도 구현을 주로 했다.
- 회의록 보고서 생성 기능은 제외했다.
- 사내 업무 가이드 챗봇은 문서 검색과 최종 답변 생성에 LLM을 쓰는데, 리소스가 제한적이라 문서 검색 단계에서는 LLM을 안 쓰는 방안을 고려중이다. 하지만 이번 주 안으로 명확한 방안이 나오지 않으면 LLM을 사용할 것이다.
✏️ 짚고 가기: 문서 검색 시에 LLM을 쓴다는 것은?
1. 질의 전처리
- 사용자가 쓴 자연어 질문에서 의도나 주제(카테고리)를 추출
- → 그 결과를 활용해 메타데이터 기반으로 문서 필터링을 수행
- → 즉, 유사도 검색 전에 검색 대상 문서를 좁히는 데 활용
2. 유사도 검색 단계에서 LLM을 활용하는 방식
(1) LLM Re-ranking
- 질문과 후보 문서를 LLM에 통째로 넣고,
- LLM이 질문에 대해 문서가 얼마나 잘 답하는지를 평가
- → 유사한 문서 중 최종 정답 순서를 정할 때 사용
(2) LLM Embedding
- 질문과 문서를 숫자 벡터(임베딩)로 변환
- 그 벡터들끼리의 거리(코사인 유사도 등)를 계산해서
- → 질문과 의미가 비슷한 문서들을 고를 때 사용
- LLM이 직접 "이 문서가 좋아요" 판단하는 게 아니라,
미리 계산된 의미 기반 벡터로 자동 비교하는 방식
💡 추가 설명
보통은 이렇게 두 가지를 함께 사용하면 정확도가 좋아져요:
LLM 임베딩 → 유사한 문서 Top 10 추출 → LLM re-ranking → 최종 Top 3 문서 선정2️⃣ 화면 도안 수정 및 화면 설계서 작성
회원 관리 화면
1. 왼쪽에 사이드바
2. 검색 UI 간소화
3. 아래 페이지 넘김 바
대화 신고 조회 화면
1. 기능 변경: 대화 이력 조회 -> 신고 받은 대화 조회
2. 표에 대화 날짜 추가 (검색을 날짜 기반으로 하니까)
3. '대화방' 단위 조회가 '대화' 단위 조회로 변경하면서, '대화' 단위를 조회하는 페이지를 삭제.
화면 설계서
3️⃣ 문서 저장시 청크 방식은 어떻게 가져갈지 고민
♥️ 회고록을 쓴 덕분에
사실 문서 검색 시에 LLM을 쓴다는 게 정확히 어떤 의미인지 잘 몰랐기에, 오늘 진행 상황 보고할 때 내가 말을 하면서도 혼란스러웠다.
내가 잘 몰랐던 부분을 그냥 넘어갈 뻔 했는데, 회고록을 쓰며 내가 몰랐다는 사실이 다시 떠올랐기 때문에 추가적인 공부를 할 수 있었다. (1️⃣-✏️문서 검색 시에 LLM을 쓴다는 것은?) 오늘이 가기 전 잘 짚고 넘어간 것 같아 뿌듯하다 😁
