🎮딥러닝 기반 랜덤 미로 생성 & Unity 미로 탈출 게임

• 이화여대 호크마교양대학 소속 머신러닝 동아리 <호구마파이>에서 24-2 겨울 방학 프로젝트로 혼자 진행한 것
• 아카이빙 목적으로 velog에 기록해둔다 ✍🏻

1. 프로젝트 개요

딥러닝을 활용하여 미로 맵을 자동으로 생성하고, Unity에서 이를 적용한 미로 탈출 게임을 개발했다.
'Unity를 활용한 게임 개발'과 'AI 기반 레벨 자동 생성'이라는 두 가지 목표를 가지고 진행했다.

-VAE 모델을 이용해 미로 데이터 세트를 학습하고, 변주를 생성함.
-unity와 연동하여을 생성된 맵을 랜덤으로 불러오는 기능을 구현하고 플레이어가 캐릭터를 직접 조작하여 탈출할 수 있도록 함.

2. 작업 과정

2.1. Unity에서 기본 구조 만들기

프로젝트 생성 & 환경 세팅

• Unity 2021.3.11f1 버전으로 프로젝트 생성
• 2D 프로젝트 설정 후, 필요한 애셋 추가
• main camera 등 기본적인 Hierarchy 구성

프리팹 준비

• 플레이어 캐릭터는 유니티 애셋 스토어에서 무료 애셋 다운로드해서 사용했음 (https://assetstore.unity.com/packages/2d/characters/bolt-2d-jellyfarm-assets-pack-188722)
• 그 외 바닥, 벽, 출발 지점, 도착 지점은 직접 만들었다

플레이어 이동 구현

• PlayerMovement.cs 스크립트 작성 -> 방향키 입력으로 플레이어 이동 구현
• 플레이어를 따라가는 카메라 스크립트도 추가해봤으나 불필요한 것 같아서 삭제했음 -> 전체 맵이 게임 화면에 나오도록 하는 게 더 플레이하기에 직관적이라는 판단

2.2 데이터셋 제작 & 딥러닝 모델 학습 (VAE)

미로 데이터셋 수작업 제작

• 15x15 크기의 미로 데이터셋 20개 제작 (0,1,2,3으로 구성)
• 구글 스프레드 시트 켜서 칸에다가 직접 1, 1, 1, 0, 1 채워가며 학습시킬 데이터 세트를 만들었다 이후 csv 파일로 변환했음

VAE 모델 학습 ⭐️

• 비교적 친숙한 개발 환경인 Google Colab에서 PyTorch 활용
• VAE 모델을 이용해 새로운 미로 맵 자동 생성하고, csv 파일로 저장했음
• Unity Project의 Maps 폴더에 수제작한 맵 + 자동 생성한 맵을 저장

일단 VAE 학습의 기본적인 뼈대가 되는 코드는 이러하다... (자잘한 오류 때문에 많은 수정을 거쳤음 🥲)

import os
import pandas as pd
import torch
import numpy as np

def load_data(data_dir, input_dim):
    data = []
    for file in os.listdir(data_dir):
        file_path = os.path.join(data_dir, file)
        array = pd.read_csv(file_path, header=None).values.flatten()

        array[array == 2] = 0
        array[array == 3] = 0

        data.append(array)
    data = np.array(data)
    return torch.tensor(data, dtype=torch.float32)

data_dir = "/content/maze_dataset/maze_dataset"
input_dim = 15 * 15

import torch.nn as nn

class VAE(nn.Module):
    def __init__(self, input_dim, latent_dim):
        super(VAE, self).__init__()
        self.encoder = nn.Sequential(
            nn.Flatten(),
            nn.Linear(input_dim, 256),
            nn.ReLU(),
            nn.Linear(256, latent_dim * 2)
        )
        self.decoder = nn.Sequential(
            nn.Linear(latent_dim, 256),
            nn.ReLU(),
            nn.Linear(256, input_dim),
            nn.Sigmoid()
        )
        self.input_dim = input_dim
        self.latent_dim = latent_dim

    def reparameterize(self, mu, log_var):
        std = torch.exp(0.5 * log_var)
        eps = torch.randn_like(std)
        return mu + eps * std

    def forward(self, x):
        x = x.view(-1, self.input_dim)
        params = self.encoder(x)
        mu, log_var = params[:, :self.latent_dim], params[:, self.latent_dim:]
        z = self.reparameterize(mu, log_var)
        recon = self.decoder(z)
        return recon, mu, log_var

# 손실 함수 (Reconstruction Loss + KL Divergence)
def loss_function(recon_x, x, mu, log_var):
    recon_loss = nn.BCELoss()(recon_x, x)
    kl_div = -0.5 * torch.sum(1 + log_var - mu.pow(2) - log_var.exp())
    return recon_loss + kl_div

# 학습 함수
def train_vae(model, data_loader, epochs, optimizer, device):
    model.train()
    for epoch in range(epochs):
        total_loss = 0
        for x in data_loader:
            x = x.to(device)
            optimizer.zero_grad()
            recon, mu, log_var = model(x)
            loss = loss_function(recon, x, mu, log_var)
            loss.backward()
            optimizer.step()
            total_loss += loss.item()
        print(f"Epoch {epoch+1}, Loss: {total_loss / len(data_loader)}")

from torch.utils.data import DataLoader
import torch.optim as optim

# 데이터 로드
data = load_data(data_dir, input_dim)
data_loader = DataLoader(data, batch_size=32, shuffle=True)

# 모델 초기화
latent_dim = 10  # 잠재 공간 크기
device = torch.device("cuda" if torch.cuda.is_available() else "cpu")
model = VAE(input_dim=input_dim, latent_dim=latent_dim).to(device)
optimizer = optim.Adam(model.parameters(), lr=0.001)

# 학습 실행
train_vae(model, data_loader, epochs=50, optimizer=optimizer, device=device)

# 새로운 맵 생성 함수
def generate_map(model, device):
    model.eval()
    with torch.no_grad():
        z = torch.randn(1, model.latent_dim).to(device)  # 랜덤 잠재 벡터
        generated = model.decoder(z)
        generated = generated.view(15, 15).cpu().numpy()
        return np.round(generated)  # 0과 1로 변환

2.3 Unity에서 CSV 파일 불러와 맵 생성하기

MapLoader.cs 스크립트 작성

• csv 파일을 읽고 벽/바닥/출구/시작 위치 생성하는 코드 추가
• 0인 위치에 바닥, 1인 위치에 벽, 2인 위치에 출구, 3인 위치에 시작 타일이 자동 생성되도록 함

랜덤 맵 불러오기 기능 구현

• Maps 폴더 내 미로 중 하나를 랜덤으로 선택해서 불러옴
• 플레이어가 출구에 도달하면 새로운 랜덤 맵 자동 로딩 (ExitTile.cs)

맵 크기 & 스케일 조정

• 벽 크기, 타일 크기 조정해서 맵이 화면에 꽉 차지만 전부 보이게 수정
• Unity 다루는 게 서툴어서 시간 엄청 잡아 묵었당 . . .

2.4 최종 테스트 & 마무리 작업

Unity에서 전체 테스트 진행

• 플레이어 이동 + 맵 생성 + 랜덤 맵 로드 기능 정상 동작 확인
• 버그 수정 하고 마무리 작업

게임 플레이 영상 촬영 & 발표 준비

• 게임 시연 영상 촬영 & 발표 PPT 제작
• 발표 내용 정리 후 발표 진행 (부원들에게 반응이 좋아서 뿌듯했음 😆)

3. 문제 해결 과정

1차 문제 - VAE 모델 학습 오류 해결

• 데이터셋에서 2와 3 때문에 오류 (0과 1만 읽고 학습할 수 있는 모델이라서 2와 3이 있으면 아예 동작이 불가능했음)
• 해결 방법 : 모델 학습 시 2, 3을 0으로 변환한 후 생성된 맵에서 다시 복구

2차 문제 - CSV 파일 읽기 오류 해결

• CSV 파일이 float(1.0, 0.0) 형태로 저장되어 Unity에서 오류 발생
• 해결 방법 → Python에서 CSV를 int형(정수)로 저장하도록 수정
• Unity에서 float → int 변환 코드 추가

기타 문제 해결

• 플레이어가 벽에 닿으면 회전하는 문제 해결
• 벽 두께 조정 후 너무 두껍거나 얇지 않도록 수정 (이거 하면서 Unity Tilesheet 기능 많이 배움)
• 카메라가 맵 밖을 벗어나는 문제 해결 (결국은 스케일 조정의 문제)

---

벨로그엔 동영상 첨부가 안 되는구나 ㅎㅁㅎ