미니 프로젝트4 후보5. 사이버범죄 및 사기 예방 챗봇 서비

문승기·2025년 5월 4일
0

🛡️ 사이버범죄 및 사기 예방 챗봇 서비스 기획안

1. 서비스 개요

이 서비스는 사용자가 겪은 보이스피싱, 악성 앱, 개인정보 유출 등 사이버 위협 상황을 텍스트로 입력하면, 파인튜닝된 sLLM이 응답을 생성하고, GPT-4o-mini가 그 연관성과 정확성을 판단합니다.

정확도가 낮거나 연관성이 떨어질 경우에는 RAG를 통해 내부 문서 검색을 수행하고, 그래도 부족하다면 Tavily API를 통한 웹 검색으로 최신 정보를 보완하는 다중단계 보안 Q\&A 시스템입니다.

전체 흐름은 Django 프레임워크를 기반으로, HTML/CSS 및 Django 템플릿을 활용해 사용자에게 웹페이지 형태로 서비스됩니다.


2. 서비스 기획 배경

  • 🎣 보이스피싱과 전자금융 사기 증가
    → 누구나 피해 대상이 될 수 있으나 정보 부족으로 대응이 어려움

  • 🧑‍💻 사이버 위협 수법의 다양화 및 고도화
    → 사용자는 어떤 상황이 위험한지 인식하기 어려움

  • 🛡️ 공공기관의 경고 자료는 활용도 낮음
    → 정보는 있으나 일반인이 이해하거나 검색하기 어려운 구조

📌 이 챗봇은 최신 보안 경고 문서, 공식 가이드라인 등을 다단계로 검색 및 판단하여 실시간 대응 전략을 제공하는 국민 사이버 보안 도우미를 지향한다.


3. 사용자 경험 흐름 (UX 시나리오)

✅ 사용자의 입력 단계

  • 상황 설명: 예) “이메일로 정부기관 사칭 문서를 받았어요”, “보이스피싱 전화가 왔어요”
  • 의심 파일/링크 설명 (옵션): 예) “문자에 URL이 있었어요”

➡️ ‘대응 방법 확인하기’ 버튼 클릭

🤖 챗봇의 응답 프로세스 예시

1. 사용자 입력을 sLLM이 우선 처리 → 응답 A 생성
2. GPT-4o-mini가 응답 A의 신뢰도 및 연관성 판단
3. 부정확한 경우 → RAG로 내부 보안 문서 검색 → 응답 B 생성
4. 다시 GPT-4o-mini가 응답 B 판단
5. 여전히 불충분한 경우 → Tavily API를 통한 웹 검색 → 최종 응답 C 생성
6. 사용자에게 가장 정확한 응답을 제공

→ 챗봇은 입력을 토대로 다단계로 판단·검색하여 정확도 높은 보안 조치 안내를 수행한다.


4. 기술 구성 요소

🧠 LLM 및 평가 모델

  • 1차 응답 생성: Fine-tuned sLLM (보안 사고 대응 스타일 학습)
  • 응답 평가: GPT-4o-mini (OpenAI API 활용, 응답의 연관성 및 신뢰도 판단)

🔍 검색 기반 QA (RAG)

  • GPT 판단 후 부정확한 경우 → FAISS 기반 벡터 검색
  • 검색 결과를 sLLM에 프롬프트로 제공하여 응답 생성
  • 여전히 불충분한 경우 → Tavily 웹 검색

💻 시스템 구성

  • 백엔드: Django (Python)
  • 프론트엔드: HTML, CSS, Django Template 기반 UI
  • 모듈 구성: 사용자 입력 → sLLM → GPT-4o-mini 판단 → RAG → Tavily (최종보완)

5. 데이터 소스

🔐 공공기관 기반

📌 모두 신뢰 가능한 공식 문서 및 뉴스 공지 기반, 최신 업데이트 주기적 반영 가능


6. 사용자 케이스별 활용 예시

🎯 케이스 유형설명
📩 피싱 이메일 수신정부기관 사칭 이메일 수신 시 대응법 안내
📱 악성 앱 의심 설치설치 후 증상에 따른 조치 안내
☎️ 보이스피싱 전화 수신번호 차단, 계좌 지급정지, 신고 절차 안내
🔓 개인정보 유출유출 경로 추정 및 대응 전략 제공

7. 확장 가능성 및 고도화 아이디어

기능설명
🔁 연속 대화 지원후속 질문 흐름 처리 (예: “그다음엔요?”)
🔔 실시간 경고 푸시최신 보안 경고 자동 수신 및 알림
🧾 신고서 자동 생성간단한 양식 생성 및 메일 전송 기능

8. 요약 및 기대 효과

  • 입력은 자연스럽게, 출력은 정확하고 신뢰 가능하게
  • 공공기관 자료 기반 대응법 요약으로 정보 격차 해소
  • 사전 예방부터 사후 대응까지 일관된 흐름 제공

9. 응답 생성 및 서비스 동작 프로세스

🔁 전체 응답 프로세스 요약

1. 사용자 입력 (사이버 위협 상황 설명)
     ↓
2. 키워드 추출 → 벡터 검색 (FAISS)
     ↓
3. 관련 기관 자료 요약 제공 (Tavily 연동 포함)
     ↓
4. LLM이 맥락 이해 후 대응 절차 생성
     ↓
5. 사용자에게 요약 안내 + 참고 링크 제공

📊 전체 동작 플로우

[사용자 입력 (위협 상황 설명)]
   ↓
[프론트엔드 → 백엔드 요청]
   ↓
[응답 생성]
   ├─ 결과 A: Fine-tuned LLM
   └─ 결과 B: RAG (보안 문서 검색 + LLM 요약)
   ↓
[GPT-4o-mini가 A/B 비교 또는 보완]
   ↓
[최종 응답 출력 + 링크 제공]
   ↓
[사용자 후속 질문 대응 / 이력 저장]

📌 사용자는 위협 상황에서도 실시간 대응 지침을 명확하고 쉽게 전달받을 수 있다.


10. 참고 자료


profile
AI 모델을 개발하여 이를 활용한 서비스를 개발하고 운영하는 개발자가 되기 위해 꾸준히 노력하겠습니다!

0개의 댓글