6GB VRAM GPU로 로컬 AI 개발 환경 구축하기 (Ollama + Aider + DeepSeek)
안녕하세요! 오늘은 윈도우 환경에서 하드웨어 자원(GPU 6GB)을 최대한 활용하여 나만의 로컬 AI 코딩 에이전트를 구축하는 과정을 정리해 보려 합니다. 파이썬 버전 이슈부터 환경 변수 설정까지, 제가 직접 겪은 시행착오를 바탕으로 '가장 안전한 길'을 안내해 드립니다.
- 하드웨어 및 기본 환경
GPU: NVIDIA RTX 시리즈 (VRAM 6GB 이상 권장)
RAM: 32GB (다다익선)
OS: Windows 11
- 엔진 설치: Ollama (로컬 LLM 서버)
가장 먼저 AI 모델을 내 컴퓨터에서 돌려줄 엔진인 Ollama를 설치합니다.
Ollama 공식 홈페이지에서 다운로드 후 설치합니다.
설치 후 터미널(PowerShell)을 열고 코딩에 최적화된 모델을 내려받습니다.
ollama pull deepseek-coder-v2:lite
Tip: 6GB VRAM 환경에서는 :lite 버전을 사용하는 것이 속도와 성능 면에서 가장 효율적입니다.
- 언어 설정: Python (가장 중요한 구간!)
여기서 가장 많은 삽질이 발생합니다. 최신 버전이 항상 좋은 것은 아닙니다.
⚠️ 주의사항: Python 3.14+ 설치 금지
최신 버전(3.14 등)은 아직 numpy나 setuptools 같은 필수 라이브러리들이 대응되지 않아 설치 시 BackendUnavailable 오류를 뱉을 수 있습니다.
✅ 해결책: Python 3.12 설치
기존에 설치된 파이썬이 있다면 제어판에서 삭제하세요.
Python.org에서 3.12.x 버전을 받으세요.
중요: 설치 시 하단의 [Add Python.exe to PATH]를 반드시 체크하세요!
설치 후 터미널을 새로 열어서 버전을 확인합니다.
python --version # Python 3.12.x 확인
python -m pip --version # pip 작동 확인
- 에이전트 설치: Aider (AI 페어 프로그래밍 도구)
이제 내 코드와 AI를 연결해줄 에이전트인 Aider를 설치합니다.
pip 단독 명령어보다 python -m pip을 사용하는 것이 경로 오류 방지에 안전합니다.
python -m pip install aider-chat
- 실행 및 트러블슈팅
설치가 끝났다면 프로젝트 전용 폴더를 만들고 에이전트를 가동합니다.
작업 공간 만들기
mkdir C:\My_AI_Project
cd C:\My_AI_Project
환경 변수 오류 해결 (Ollama_API_BASE)
Aider 실행 시 OLLAMA_API_BASE 관련 경고가 뜬다면, 윈도우에게 내 컴퓨터 안의 Ollama 주소를 알려줘야 합니다.
현재 세션에 환경 변수 설정
$env:Ollama_API_BASE="http://localhost:11434"
Aider 실행 (DeepSeek 모델 지정)
python -m aider --model ollama/deepseek-coder-v2:lite
- 마치며: 직접 겪은 시행착오 요약
스마트 앱 컨트롤 이슈: 윈도우 보안 설정 때문에 특정 실행 파일이 차단될 수 있습니다. 문제가 생기면 보안 설정을 확인하세요.
버전의 함정: 파이썬은 무조건 최신이 답이 아닙니다. AI 생태계가 따라오지 못한 버전은 과감히 버리고 안정 버전(3.12)을 선택하세요.
터미널 재시작: 환경 변수(PATH)를 바꿨다면 반드시 실행 중인 파워쉘을 껐다 켜야 적용됩니다.
이제 > 프롬프트에 "내 이름 Seunghoon을 출력하는 어셈블리 코드를 작성해줘"라고 말해보세요. 당신의 GPU가 뜨거워지며 코드를 쏟아낼 준비가 되었습니다!
#AI #Ollama #Aider #DeepSeek #Python #NVIDIA #개발환경세팅
