🎨 Stable Diffusion WebUI Forge 설치 및 활용 (Azure 클라우드 기반)

본 실습에서는 Azure Machine Learning Compute Instance를 사용하여 GPU 환경을 빠르게 구축하고, WebUI Forge를 설치하여 이미지를 생성하며, 결과물을 Azure Blob Storage로 자동 동기화하는 과정을 다룹니다.

1. 개요 및 환경 설정

1.1. GPU의 중요성

• CPU vs GPU: Stable Diffusion은 GPU 성능에 절대적인 영향을 받습니다. 이미지 생성 시 일반 CPU는 수십 초가 걸리는 반면, 고성능 GPU는 3~4초 만에 처리 가능합니다.
• Azure 환경 선택:
  • Azure VM을 직접 생성하여 사용할 수도 있지만, Azure Machine Learning Compute Instance(ML 스튜디오)를 사용하는 것이 유리합니다.
  • 이유: TensorFlow, PyTorch, Conda, VS Code 등 AI 개발에 필요한 도구들이 미리 설치되어 있어 환경 구축 시간을 단축할 수 있습니다.

출처: https://lambda.ai/blog/inference-benchmark-stable-diffusion

1.2. Azure 리소스 생성 단계

1. 리소스 그룹 (Resource Group) 생성

• GPU 할당을 받은 영역(Region)을 선택하여 생성합니다. (예: student01_sdlab_rg)

2. Azure Machine Learning Workspace 생성

• Marketplace에서 Azure Machine Learning을 검색하여 생성합니다.
• 이때 Storage Account(스토리지 계정)가 함께 생성되는데, 추후 관리를 위해 알아보기 쉬운 이름으로 지정하는 것이 좋습니다. (영문 소문자와 숫자만 가능, 예: dt005storage)

3. Compute Instance (VM) 생성

• ML Studio → 컴퓨팅 → + 새로 만들기
• VM 크기: GPU가 포함된 모델 선택 (실습에서는 코어 제한으로 인해 4 Core 모델 사용 예: Standard_NC4as_T4_v3).
• 보안: 'SSH 액세스 사용' 체크.
• SSH 설정: 'SSH 액세스 허용'을 체크하고 키 쌍 이름 지정(예: dt005-vmgpu-key) 후 프라이빗 키(.pem) 다운로드 (필수).

---

2. 서버 접속 및 기본 설치 (IaaS)

2.1. SSH 접속

Azure ML Compute Instance는 일반 VM과 달리 포트 번호가 22번이 아닌 50000번 대의 임의 포트가 할당됩니다.

1. 접속 정보 확인: ML Studio → 컴퓨팅 → 인스턴스 클릭 → '연결' 탭.

2. 터미널 접속 (로컬 PC):

   • Windows 사용자는 키 파일 권한 문제 방지를 위해 먼저 icacls 명령어를 실행하는 것이 좋습니다.

   :: Windows 권한 설정 (키 파일 있는 폴더에서)
   icacls 키파일명.pem /reset
   icacls 키파일명.pem /grant:r %username%:(R)
   icacls 키파일명.pem /inheritance:r
   

   # 접속 명령어 (반드시 -p 옵션으로 포트 지정)
   ssh -i "경로/키파일.pem" azureuser@IP주소 -p 50000
   
   #예
   ssh -i C:\\Key\\geondongkim-vm-gpu_key.pem azureuser@4.230.xx.xx -p 50000

2.2. Conda 가상환경 및 WebUI Forge 설치

접속 후, Git을 통해 소스 코드를 받고 Conda를 이용해 독립적인 실행 환경을 구축합니다.

# 1. 소스 코드 복제 (Forge 버전)
git clone <https://github.com/lllyasviel/stable-diffusion-webui-forge.git>

# 2. 폴더 이동
cd stable-diffusion-webui-forge

# 3. Conda 가상환경 생성 (Python 3.10 권장)
conda create -n sd python=3.10

# 4. 가상환경 활성화 (필수)
conda activate sd

# 5. 필수 시스템 라이브러리 설치
sudo apt-get update
sudo apt-get install libgoogle-perftools-dev -y

💡 Tip: 로그인 시 자동으로 sd 환경이 활성화되게 하려면:
vi .bashrc 입력 후 파일 끝에 conda activate sd 추가.

---

3. 모델(Model) 다운로드 및 관리

이미지 생성을 위해서는 체크포인트(Checkpoint) 모델 파일이 필요합니다.

3.1. Hugging Face에서 다운로드 (CLI 방식)

• Hugging Face: 다양한 AI 커스텀 모델의 저장소. (Flux, Stable Diffusion v1.5 등)

Hugging Face에서 모델을 받으려면 Access Token이 필요하며, 일부 모델(Flux 등)은 사이트에서 약관 동의가 선행되어야 합니다.

# 모델 저장 경로로 이동
cd ~/stable-diffusion-webui-forge/models/Stable-diffusion

# cURL로 다운로드 (-L 옵션: 리다이렉트 추적)
# [YOUR_HF_TOKEN]에 본인의 토큰 입력
curl -H "Authorization: Bearer [YOUR_HF_TOKEN]" \\
<https://huggingface.co/stable-diffusion-v1-5/stable-diffusion-v1-5/resolve/main/v1-5-pruned.safetensors> \\
--location --output sd-v1-5.safetensors

3.2. Civitai 모델 다운로드 (CLI 방식)

• Civitai: 생성형 AI, 특히 그림 생성에 특화된 튜닝 모델들이 많음.

Civitai는 civitdl 라이브러리를 사용하면 메타데이터와 함께 편리하게 다운로드할 수 있습니다.

# 1. 도구 설치
pip install civitdl

# 2. 모델 다운로드 예시 (모델 ID 사용)
# 체크포인트 다운로드
civitdl 24350 ~/stable-diffusion-webui-forge/models/Stable-diffusion -k

# key 값 입력
key : [YOUR_CIVITAI_API_KEY]

# LoRA 다운로드
civitdl 151576 ~/stable-diffusion-webui-forge/models/Lora -k

# key 값 입력
key : [YOUR_CIVITAI_API_KEY]

---

4. WebUI 실행 및 접속

4.1. 실행 명령어

설치가 완료되면 스크립트를 실행합니다. 외부 접속을 위해 --share 옵션을 사용합니다.

# Forge 폴더로 이동
cd ~/stable-diffusion-webui-forge

# 실행 (계정/비번 설정 권장)
./webui.sh --share --gradio-auth <아이디:비밀번호>

# 실행 (계정/비번 없이)
./webui.sh --share

4.2. 접속 확인

• 터미널에 출력되는 https://xxxxxxxx.gradio.live 주소로 접속합니다.
• 💡 Tip: 이미지 생성 시 해상도(가로/세로)는 반드시 8의 배수로 설정해야 고품질 이미지가 생성됩니다.

---

5. 결과물 관리 및 클라우드 자동 동기화 (Advanced)

생성된 이미지를 로컬로 가져오거나 Azure Blob Storage로 실시간 백업하는 파이프라인을 구축합니다.

5.1. 방법 1: SCP로 로컬 다운로드 (수동)

로컬 PC의 터미널에서 실행합니다.

# 1. (VM 내부) 결과물 폴더 압축
cd ~/stable-diffusion-webui-forge/outputs
zip -r output.zip .

# 2. (로컬 PC) 파일 전송 (대문자 -P 옵션 주의)
scp -i [키경로] -P 50000 azureuser@[IP]:/home/azureuser/stable-diffusion-webui-forge/outputs/output.zip .

5.2. 방법 2: Azure Blob Storage 실시간 동기화 (자동)

단계 1: Azure Storage 준비 (SAS 토큰 발급)

1. Azure Portal → 스토리지 계정 → 컨테이너 생성 (예: stable-diffusion-images).
2. 보안 + 네트워킹 → 공유 액세스 서명(SAS) 이동.
3. 허용되는 리소스: 서비스, 컨테이너, 개체 모두 체크.
4. SAS 생성 후 SAS TOKEN 복사.

단계 2: VM 내부 환경 설정

# 1. 도구 설치 (Azure CLI, Watchdog)
pip install --upgrade pip
pip install watchdog
sudo apt-get update && sudo apt-get install azure-cli

단계 3: 동기화 스크립트 작성 (upload_to_azure.sh)vi upload_to_azure.sh 로 파일을 생성하고 아래 내용을 입력합니다. (URL 부분은 본인의 SAS URL로 교체)

# 동기화 스크립트 작성할 경로로 이동
cd ~/stable-diffusion-webui-forge/outputs

# vim 편집기로 vi upload_to_azure.sh 파일 생성
vi upload_to_azure.sh

#!/bin/bash
# 스토리지 계정 및 컨테이너 정보
STORAGE_ACCOUNT_NAME="gdkim1023storage"
CONTAINER_NAME="stable-diffusion-images"
LOCAL_PATH="/home/azureuser/stable-diffusion-webui-forge/outputs/"

# SAS 토큰 (물음표 ? 뒤의 값부터 시작)
SAS_TOKEN="sv=2024-11-~~~"

# 전체 URL 조합
BLOB_URL="<https://$>{STORAGE_ACCOUNT_NAME}.blob.core.windows.net/${CONTAINER_NAME}?${SAS_TOKEN}"

# 동기화 실행 (재귀적)
echo "Syncing to Azure Blob Storage..."
azcopy sync "${LOCAL_PATH}" "${BLOB_URL}" --recursive

단계 4: 권한 부여 및 감시 실행

# 실행 권한 부여
chmod 775 upload_to_azure.sh

# Watchdog 실행 (파일 변화 감지 시 업로드 스크립트 실행)
# 별도의 터미널 창을 열어서 실행하거나 백그라운드(&)로 실행 권장
watchmedo shell-command \\
  --patterns="*.png" \\
  --recursive \\
  --command="sh /home/azureuser/stable-diffusion-webui-forge/outputs/upload_to_azure.sh" \\
  /home/azureuser/stable-diffusion-webui-forge/outputs

✅ 실습 요약

1. *GPU VM(Compute Instance)**를 생성하여 AI 연산 환경 확보.
2. Conda & WebUI Forge 설치로 Stable Diffusion 구동.
3. Hugging Face/Civitai에서 API/Token을 활용해 모델 다운로드.
4. Watchdog & AzCopy를 활용해 생성된 이미지를 Azure Cloud로 자동 백업 시스템 구축.