다이나믹 프로그래밍
[2021 이코테] 6. 다이나믹 프로그래밍
다이나믹 프로그래밍
- 다이나믹 프로그래밍은 메모리를 적절히 사용하여 수행 시간 효율성을 비약적으로 향상시키는 방법
- 이미 계산된 결과(작은 문제)는 별도의 메모리 영역에 저장하여 다시 계산하지 않도록 함
- 다이나믹 프로그래밍의 구현은 일반적으로 두 가지 방식(탑다운과 보텀업)으로 구성
- 다이나믹 프로그래밍은 동적 계획법이라고도 부름
- 일반적인 프로그래밍 분야에서의 동적(Dynamic)이란 어떤 의미를 가질까?
- 자료구조에서 동적 할당(Dynamic Allocation)은 '프로그램이 실행되는 도중에 실행에 필요한 메모리를 할당하는 기법'을 의미
- 반면에 다이나믹 프로그래밍에서 '다이나믹'은 별다른 의미 없이 사용된 단어
- 다이나믹 프로그래밍은 문제가 다음의 조건을 만족할 떄 사용 가능
- 최적 부분 구조 (Optimal Substructure)
- 큰 문제를 작은 문제로 나눌 수 있으며 작은 문제의 답을 모아서 큰 문제를 해결할 수 있음
- 중복되는 부분 문제 (Overlapping Subproblem)
피보나치 수열
- 피보나치 수열은 다음과 같은 형태의 수열이며, 다이나믹 프로그래밍으로 효과적으로 계산 가능
- 1, 1, 2, 3, 5, 8, 13, 21, 34, 55, 89, ...
- 점화식이란 인접한 항들 사이의 관계식을 의미
- 피보나치 수열을 점화식으로 표현하면 다음과 같음
a(n) = a(n-1) + a(n-2)
a(1) = 1, a(2) = 1
- 피보나치 수열이 계산되는 과정은 다음과 같이 표현할 수 있음
- 프로그래밍에서는 이러한 수열을 배열이나 리스트를 이용해 표현
- 피보나치 수열이 계산되는 과정은 다음과 같이 표현할 수 있음
- n번째 피보나치 수를 f(n)라고 할 때 4번째 피보나치 수 f(4)를 구하는 과정은 다음과 같음
def fibo(x):
if x == 1 or x == 2:
return 1
return fibo(x - 1) + fibo(x - 2)
print(fibo(4))
>>> 3
피보나치 수열의 시간 복잡도 분석
- 단순 재귀 함수로 피보나치 수열을 해결하면 지수 시간 복잡도를 가지게 됨
- 다음과 같이 f(2)가 여러번 호출되는 것을 확인할 수 있음 (중복되는 부분 문제)
- 피보나치 수열의 시간 복잡도는 다음과 같음
- 세타 표기법: 𝜃(1.618⋯ᴺ)
- 빅오 표기법: O(2ᴺ)
- 빅오 표기법을 기준으로 f(30)을 계산하기 위해 약 10억가량의 연산을 수행해야 함
피보나치 수열의 효율적인 해법: 다이나믹 프로그래밍
- 다이나믹 프로그래밍의 사용 조건을 만족하는지 확인
- 최적 부분 구조: 큰 문제를 작은 문제로 나눌 수 있음
- 중복되는 부분 문제: 동일한 작은 문제를 반복적으로 해결
- 피보나치 수열은 다이나믹 프로그래밍의 사용 조건을 만족
메모이제이션 (Memoization)
- 메모이제이션은 다이나믹 프로그래밍을 구현하는 방법 중 하나 (탑다운 방식=하향식)
- 한 번 계산한 결과를 메모리 공간에 메모하는 기법
- 같은 문제를 다시 호출하면 메모했던 결과를 그대로 가져옴
- 값을 기록해 놓는다는 점에서 캐싱(Caching)이라고도 함
탑다운 vs 보텀업
- 탑다운(메모이제이션) 방식은 하향식이라고도 하며 보텀업 방식은 상향식이라고도 함
- 다이나믹 프로그래밍의 전형적인 형태는 보텀업 방식
- 엄밀히 말하면 메모이제이션은 이전에 계산된 결과를 일시적으로 기록해 놓는 넓은 개념을 의미
- 따라서 메모이제이션은 다이나믹 프로그래밍에 국한된 개념은 아님
- 한 번 계산된 결과를 담아 놓기만 하고 다이나믹 프로그래밍을 위해 활용하지 않을 수도 있음
d = [0] * 100
def fibo(x):
if x == 1 or x == 2:
return 1
if d[x] != 0:
return d[x]
d[x] = fibo(x - 1) + fibo(x - 2)
return d[x]
print(fibo(99))
>>> 218922995834555169026
d = [0] * 100
d[1] = 1
d[2] = 2
n = 99
for i in range(3, n + 1):
d[i] = d[i - 1] + d[i - 2]
print(d[n])
>>> 218922995834555169026
피보나치 수열: 메모이제이션 동작 분석
- 이미 계산된 결과를 메모리에 저장하면 다음과 같이 색칠된 노드만 처리할 것을 기대할 수 있음
- 실제로 호출되는 함수에 대해서만 확인해보면 다음과 같이 방문
- 메모이제이션을 이용하는 경우 피보나치 수열 함수의 시간 복잡도는 O(N)
d = [0] * 100
def fibo(x):
print('f(' + str(x) + ')', end=' ')
if x == 1 or x == 2:
return 1
if d[x] != 0:
return d[x]
d[x] = fibo(x - 1) + fibo(x - 2)
return d[x]
fibo(6)
>>>> f(6) f(5) f(4) f(3) f(2) f(1) f(2) f(3) f(4)
다이나믹 프로그래밍 vs 분할 정복
- 다이나믹 프로그래밍과 분할 정복은 모두 최적 부분 구조를 가질 때 사용 가능
- 큰 문제를 작은 문제로 나눌 수 있으며 작은 문제의 답을 모아서 큰 문제를 해결할 수 있는 상황
- 다이나믹 프로그래밍과 분할 정복의 차이점은 부분 문제의 중복
- 다이나믹 프로그래밍 문제에서는 각 부분 문제들이 서로 영향을 미치며 부분 문제가 중복
- 분할 정복 문제에서는 동일한 부분 문제가 반복적으로 계산되지 않음
- 분할 정복의 대표적인 예시로 퀵 정렬이 있음
- 한 번 기준 원소(Pivot)가 자리를 변경해서 자리를 잡으면 그 기준 원소의 위치는 바뀌지 않음
- 분할 이후에 해당 피벗을 다시 처리하는 부분 문제는 호출하지 않음
다이나믹 프로그래밍 문제에 접근하는 방법
- 주어진 문제가 다이나믹 프로그래밍 유형임을 파악하는 것이 중요
- 가장 먼저 그리디, 구현, 완전 탐색 등의 아이디어로 문제를 해결할 수 있는지 검토할 수 있음
- 다른 알고리즘으로 풀이 방법이 떠오르지 않는다면 다이나믹 프로그래밍을 고려
- 일단 재귀 함수로 비효율적인 완전 탐색 프로그램을 작성한 뒤에 (탑다운) 작은 문제에서 구한 답이 큰 문제에서 그대로 사용될 수 있으면, 코드를 개선하는 방법을 사용할 수 있음
- 일반적인 코딩 테스트 수준에서는 기본 유형의 다이나믹 프로그래밍 문제가 출제되는 경우가 많음
문제: 개미 전사
문제 해결 아이디어
- 예시를 확인해 보면 N = 4일 때, 다음과 같은 경우들이 존재할 수 있음
- 식량을 선택할 수 있는 경우의 수는 다음과 같이 8가지
- 7번쨰 경우에서 8만큼의 식량을 얻을 수 있으므로 최적의 해는 8
- a(i) = i번째 식량 창고까지의 최적의 해 (얻을 수 있는 식량의 최댓값)
- 이렇게 정의한다면 다이나믹 프로그래밍을 적용할 수 있음
- 왼쪽부터 차례대로 식량 창고를 턴다고 했을 때, 특정한 i번째 식량 창고에 대해서 털지 안 털지의 여부를 결정하면, 아래 2가지 경우 중에서 더 많은 식량을 털 수 있는 경우를 선택하면 됨
- a(i) = i번째 식량 창고까지의 최적의 해 (얻을 수 있는 식량의 최댓값)
- k(i) = i번째 식량 창고에 있는 식량의 양
- 점화식은 다음과 같음
a(i) = max(a(i-1), a(i-2) + k(i))
- 한 칸 이상 떨어진 식량 창고는 항상 털 수 있으므로 (i-3)번째 이하는 고려할 필요가 없음
n = int(input())
array = list(map(int, input().split())
d = [0] * 100
d[0] = array[0]
d[1] = max(array[0], array[1])
for i in range(2, n):
d[i] = max(d[i - 1], d[i - 2] + array[i])
print(d[n - 1])
문제: 1로 만들기
문제 해결 아이디어
- 피보나치 수열 문제를 도식화 한 것처럼 함수가 호출되는 과정을 그림으로 그려보면 다음과 같음
- a(i) = i를 1로 만들기 위한 최소 연산 횟수
- 점화식은 다음과 같음
a(i) = min(a(i-1), a(i/2), a(i/3), a(i/5)) + 1
- 단, 1을 빼는 연산을 제외하고는 해당 수로 나누어떨어질 때에 한해 점화식을 적용할 수 있음
x = int(input())
d = [0] * 30001
for i in range(2, x + 1):
d[i] = d[i - 1] + 1
if i % 2 == 0:
d[i] = min(d[i], d[i // 2] + 1)
if i % 3 == 0:
d[i] = min(d[i], d[i // 3] + 1)
if i % 5 == 0:
d[i] = min(d[i], d[i // 5] + 1)
print(d[x])
문제: 효율적인 화폐 구성
문제 해결 아이디어
- a(i) = 금액 i를 만들 수 있는 최소한의 화폐 개수
- k = 각 화폐의 단위
- 점화식: 각 화폐 단위인 k를 하나씩 확인하며
- a(i-k)를 만드는 방법이 존재하는 경우,
a(i) = min(a(i), a(i-k) + 1)
- a(i-k)를 만드는 방법이 존재하지 않는 경우,
a(i) = INF
- N = 3, M = 7이고, 각 화폐의 단위가 2, 3, 5인 경우 확인
n, m = map(int, input().split())
array = []
for i in range(n):
array.append(int(input()))
d = [10001] * (m + 1)
d[0] = 0
for i in range(n):
for j in range(array[i], m + 1):
if d[j - array[i]] != 10001:
d[j] = min(d[j], d[j - array[i]] + 1)
if d[m] == 10001:
print(-1)
else:
print(d[m])
문제: 금광
문제 해결 아이디어
- 금광의 모든 위치에 대하여 다음의 세 가지만 고려하면 됨
- 왼쪽 위에서 오는 경우
- 왼쪽 아래에서 오는 경우
- 왼쪽에서 오는 경우
- 세 가지 경우 중에서 가장 많은 금을 가지고 있는 경우를 테이블에 갱신해주어 문제를 해결
- array[i][j] = i행 j열에 존재하는 금의 양
- dp[i][j] = i행 j열까지의 최적의 해 (얻을 수 있는 금의 최댓값)
- 점화식은 다음과 같음
dp[i][j] = array[i][j] + max(dp[i - 1][j - 1], dp[i][j - 1], dp[i + 1][j - 1])
- 이때 테이블에 접근할 때마다 리스트의 범위를 벗어나지 않는지 체크해야 함
- 편의상 초기 데이터를 담는 변수 array를 사용하지 않아도 됨
- 바로 DP 테이블에 초기 데이터를 담아서 다이나믹 프로그래밍을 적용할 수 있음
for tc in range(int(input())):
n, m = map(int, input().split())
array = list(map(int, input().split())
dp = []
index = 0
for i in range(n):
dp.append(array[index:index + m])
index += m
for j in range(1, m):
for i in range(n):
if i == 0: left_up = 0
else: left_up = dp[i - 1][j - 1]
if i == n - 1: left_down = 0
else: left_down = dp[i + 1][j - 1]
left = dp[i][j - 1]
dp[i][j] = dp[i][j] + max(left_up, left_down, left)
result = 0
for i in range(n):
result = max(result, dp[i][m - 1])
print(result)
문제: 병사 배치하기
문제 해결 아이디어
- 이 문제의 기본 아이디어는 가징 긴 증가하는 부분 수열(Longest Increasing Subsequence, LIS)로 알려진 전형적인 다이나믹 프로그래밍 문제의 아이디어와 같음
- 예를 들어 하나의 수열 array = [4, 2, 5, 8, 4, 11, 15]이 있을 때
- 이 수열의 가장 긴 증가하는 부분 수열은 [4, 5, 8, 11, 15]
- 본 문제는 가장 긴 감소하는 부분 수열을 찾는 문제로 치환할 수 있으므로, LIS 알고리즘을 조금 수정하여 적용함으로써 정답 도출 가능
- 가장 긴 증가하는 부분 수열(LIS) 알고리즘
- D[i] = array[i]를 마지막 원소로 가지는 부분 수열의 최대 길이
- 점화식은 다음과 같음
- 모든 0 ≤ j < i 에 대하여,
D[i] = max(D[i], D[j] + 1) if array[j] < array[i]
- 가장 먼저 입력 받은 병사 정보의 순서를 뒤집음
- 가장 긴 증가하는 부분 수열(LIS) 알고리즘을 수행하여 정답을 도출
n = int(input())
array = list(map(int, input().split()))
array.reverse()
dp = [1] * n
for i in range(1, n):
for j in range(0, i):
if array[j] < array[i]:
dp[i] = max(dp[i], dp[j] + 1)
print(n - max(dp))