AI | 기본 환경 세팅

1. IDE 설치 ( cursor, vscode, pycharm 중 1)
2. CUDA 설치 11.8 버전
   - CUDA는 PyTorch에서 GPU를 활용하기 위한 기술
   NVIDIA에서 개발한 GPU 연산 가속 기술로 PyTorch에서는 CUDA를 활용해서 연산을 GPU에서 수행할 수 있도록 도와주는 역할
   → 그럼 해당 경로 C:\Program Files\NVIDIA GPU Computing Toolkit\CUDA\v11.8 에 cuda가 설치된다.
   - 맥북: cuda 설치할 필요 없음.
   - NVDIA GPU 없으면 cuda 설치 안해도됨. 속도는 느림

가상환경 진입

conda create -n nlp python=3.10 -y
conda activate nlp # 가상환경 진입
pip3 install torch torchvision torchaudio --index-url # 파이토치 설치

파이토치 설치

import torch

torch.cuda.is_available() # TRUE 가 나오는지 확인

conda 환경 구축
conda-forge github에서 window 버전 다운.

• 터미널 환경.
  토글에서 powershall이 아닌 cmd 로 변경.
  base는 깨끗하게 유지. 보통 c드라이브 혹은 사용자 안 dev > 폴더명 에 위치

conda create -n 폴더명 python=3.12
conda env list # 현재 설치된 파일 확인 가능
conda deactivate → base 로 바꾸기

!주의사항.
⇒ \설치된 pip를 실행시킬때 해당 경로의 인터프리터 변경

FAST API 를 통한 Serving

pip install fastapi uvicorn python-multipart
uvicorn main:app --reload # reload: 수정 시 바로 반영

ex ) http://127.0.0.1:8000/docs - API test 가능

FastAPI의 핵심 특징

1. 고성능 (Fast!)

• arlette(비동기 웹 서버)와 Pydantic(데이터 검증 라이브러리)을 기반으로 구현
  비동기(Async) 기능을 기본적으로 지원해서 동시 요청 처리 성능이 뛰어나다.
  성능은 Node.js 및 Go 수준으로 빠름.

2. 문서화 (Swagger UI, ReDoc)

• API를 만들면 자동으로 문서화(Swagger UI, ReDoc) 제공
  /docs (Swagger UI) → API를 직접 테스트 가능
  /redoc (ReDoc) → 깔끔한 API 문서 제공

3. 타입 기반 요청 & 응답 검증

• Pyantic을 활용해서 요청 데이터와 응답 데이터의 타입을 강력하게 검증할 수 있다.
  덕분에 버그를 줄이고, 코드 가독성이 높아짐.
  비동기(Async) 지원
• async/await을 기본적으로 지원해서 IO-bound 작업(데이터베이스, API 호출 등)에서 성능이 뛰어남.