프로젝트 관련

프롬프트

프롬프트 엔지니어링, 파인튜닝, RAG 언제 사용해야 할까?
1) 목적에 따라 적절한 것이 다르고, 시기에 따라 달라짐(모델 성능이 계속 좋아짐)
2) 특정 톤, 매너, 출력 형식을 고정하고 싶을 때 ➔ 프롬프트 엔지니어링(모델 성능이 좋아져서 파인튜닝 없이 가능)
3) 일단 빠르게 테스트하고 초기 비용을 최소화하고 싶을 때 ➔ 프롬프트 엔지니어링
4) 답변의 출처를 명시해야 하고 환각(거짓말)을 최소화해야 할 때 ➔ 프롬프트 엔지니어링 + RAG
5) 최신 정보나 실시간 데이터가 필요할 때 ➔ RAG
6) 내부 문서, 매뉴얼, DB 등 학습되지 않은 지식이 필요할 때 ➔ RAG
7) 프롬프트 엔지니어링을 끝까지 시도해도 모델이 톤/형식을 자꾸 틀릴 때 ➔ 파인튜닝
8) 특정 작업(Task)에 특화된 모델을 만들고 싶을 때(단, 데이터/GPU/사람 리소스 필요) ➔ 파인튜닝

(출처: https://www.threads.com/@data.scientist)

컨텍스트 캐싱

• 컨텍스트 캐싱
• 컨텍스트 캐시 사용
  • Caching

KDC 온라인 강의 소개

• 고용노동부 주관
• 온라인 과정

---

---

---

네이버클라우드 특강

K8s (Kubernetes)

K8s가 AI/ML/AI 워크로드에 적합한 이유

• 일관성 있고 이식 가능한 환경
• 확장성 및 자원 관리
• 운영 자동화, 장애 처리, 배포 관리
• 멀티·하이브리드 클라우드, 엣지 적용 가능성

실무 네트워크 구축법 배우기

실무 네트워크 = 멀티존 = 멀티AZ(멀티 데이터 센터)

• 네이버 클라우드 네트워크 특징
  1. NATGW 전용 서브넷 구축 필요
  2. 로드밸런서용 전용 서브넷 구축 필요

• DB는 외부랑 소통 x
  • pri와 소통하는 route table 만들기

왜 K8s? 서버의 불편함 때문

K8s는 컨테이너 기반이라서 통째로 옮길 수 있음

쿠버네티스 이해

• Pod: IP가 할당되는 서버
• 클라우드에 쿠버네티스를 구축할 경루 Master(Control Plane)를 CSP가 관리해줘서 Worker Node만 관리하면 됨
  • on-premise에서 하면 Master도 사용자가 직접 관리