후기
클라우드아님. 홍보 세션은 시간 심하게 어겨가면서 강의함.
앞으로 구글 컨퍼런스는 좀 신중하게 신청해야할 듯...
추신. 올해 들었던 컨퍼런스 중 제일 별로였음 ㅠ
노트
Google Cloud AI 인프라에서 Diffusion 모델로 이미지 생성하기
- MaxDiffusion: 여러 디퓨전 모델 지원 (오픈소스)
Gemini Pro를 활용한 Gen AI 앱 만들기!
Streamlit
Advanced RAG & Evaluation
RAG
- Embedding, Vector
- 데이터셋을 가져와서 트레이닝하는 것보단 RAG를 사용
- RAG로 인터넷 검색을 이용하여 원하는 정보를 얻기
- PDCA
Naive RAG architecture
reranking algorithm
- MS MARCO benchmark dataset - cross entropy dataset
- graph database (recall 늘리는 방법)
Multi Hop QA: 질문에 필요로 하는 진실은 하나인가?
- Lightweight TF Splitter: 질문을 세부적으로 나눔 (질문 내 질문들이 있는 문제 해결!)
- 질문의 깊이가 서로 동등한가? Query Graph가 필요한가?
Document Layout
- Document Parser / Layout Analysis
- Static Parser, OCR Parser
- Recall이 높으면 퍼포먼스가 떨어짐 (즉, 정확도와 속도는 반비례)
AlloyDB, BigQuery Vector Search 등을 사용
팀장님, 정말 쿠버네티스를 쓰셔야겠어요?
쿠버네티스: 배포/스케일링 자동화, 컨테이너화된 어플 관리 도구
Terraform: 인프라구조를 provision하는 프로그램
- 인프라 스트럭쳐를 코드로 관리 (형상관리처럼 관리)
Microservice, AppMod, InfraMod, Cloud Native
GKE Autopilot: 노드가 보이진 않지만 파드들이 노드에 떠있음
application -> dockerfile -> docker -> containerize -> artifact registry -> deployment -> ...
.tftpl: 테라폼 템플릿 확장자
lifecycle
standard support
K8S 써야하는 이유가 없다면 클라우드 쓰시오! (Cloud Run)
AI 커리어 점프: 차세대 AI 전문가를 위한 FAQ
DIY Coding