[암호학 기본 01] 대칭키 / 비대칭키, AES, RSA

omin·2025년 8월 10일

AES Asymmetric Cryptography RSA symmetric 암호학

암호학 기본

목록 보기

1/6

대칭키 (Symmetric Key)

암호화와 복호화에 동일한 키를 사용하는 방식이다. 비대칭키에 비해 연산 속도가 빠르고 구현이 간단하다는 장점이 있지만, 키를 안전하게 주고받는 키 교환 과정이 필수적이며 키가 유출되면 보안에 취약해진다.

특징

빠른 연산 속도: 대규모 데이터 암호화에 유리
간단한 구현: 연산이 비교적 단순함
키 교환 필요: 보안 취약점

대표 알고리즘: AES, DES 등

분류

스트림 (Stream): 데이터의 비트/바이트 단위로 연속적으로 암호화하는 방식. 블록 방식보다 빠르며 하드웨어 복잡성이 낮지만, 평문의 패턴이 노출될 수 있어 보안에 취약할 수 있다.
블록 (Block): 데이터를 일정한 크기의 블록으로 나누어 암호화하는 방식. 블록 크기에 따라 속도 차이가 발생하며, 데이터가 블록 크기 미만일 경우 패딩이 필요하다.

Notion에 정리하기 좋게 대칭키와 비대칭키, 그리고 대표적인 알고리즘인 AES와 RSA에 대해 명확하게 구분하여 정리해 드릴게요.

비대칭키 (Asymmetric Key)

암호화와 복호화에 서로 다른 키를 사용하는 방식이다. 공개키(Public Key)와 개인키(Private Key) 한 쌍으로 구성된다. 공개키는 누구나 가질 수 있으며, 개인키는 소유자만 가질 수 있다.

특징

높은 보안성: 키 교환이 안전함
느린 연산 속도: 대칭키에 비해 처리 속도가 느림
인증 및 암호화 동시 수행: 공개키로 암호화한 데이터는 개인키로만 복호화 가능

대표 알고리즘: RSA, ECC 등

활용

안전한 키 교환: 대칭키를 안전하게 공유하기 위해 비대칭키를 사용한다.

대표적인 암호화 알고리즘 상세 설명

AES (Advanced Encryption Standard)

AES는 대칭키 블록 암호화 알고리즘의 대표적인 표준이다. 암호화와 복호화에 동일한 키를 사용하며, 데이터를 일정한 크기의 블록으로 나누어 처리한다.

키 길이: 128, 192, 256비트를 지원한다.
블록 크기: 키 길이와 마찬가지로 128, 192, 256비트를 지원하지만, 128비트가 표준으로 사용된다.
구조: 기존 DES와 달리 비-페이스텔(Non-Feistel) 구조를 가진다.
패딩: 블록 크기에 맞지 않는 데이터는 패딩을 추가하여 블록을 채운다.
상태 행렬: 입력된 한 블록은 4×4 크기의 1바이트 원소를 가진 상태 행렬(State Matrix)로 변환되어 연산에 사용된다.
라운드 수: 키 길이에 따라 128비트는 10회, 192비트는 12회, 256비트는 14회 라운드 연산을 반복한다.

AES의 라운드 함수 (Round Function)

AES는 암호화 과정에서 각 라운드마다 동일한 4개의 함수를 반복적으로 수행한다.

SubBytes (바이트 치환)

상태 행렬의 각 바이트를 S-box(Substitution-box)라는 고정된 치환 테이블을 이용해 다른 값으로 바꾼다. 이 과정은 다음과 같이 진행된다.

바이트 값을 $GF(2^8)$ 에서 곱셈 역원으로 변환한다.
아핀 변환이라는 선형 변환을 적용한다.
결과적으로, 입력 바이트의 왼쪽 4비트는 S-box의 행을, 오른쪽 4비트는 열을 나타내어 새로운 바이트 값을 선택한다.

이 과정을 통해 AES는 비선형성을 강화하여 암호의 보안을 높인다. 예를 들어, 0x19는 S-box를 통해 0xD4로 변환된다.

ShiftRows (행 이동)

상태 행렬의 각 행을 정해진 규칙에 따라 왼쪽으로 순환 이동(Circular Shift)한다.

1행: 이동 없음 (0 바이트)
2행: 1 바이트 왼쪽 이동
3행: 2 바이트 왼쪽 이동
4행: 3 바이트 왼쪽 이동

MixColumns (열 섞기)

상태 행렬의 각 열에 대해 고정된 4×4 행렬을 곱하여 값을 섞는다.
이 과정은 갈루아 필드(Galois Field, $GF(2^8))$ 상에서 연산되며, 열 단위의 확산(Diffusion)을 일으켜 보안성을 높인다.

\begin{pmatrix} 2 & 3 & 1 & 1 \\ 1 & 2 & 3 & 1 \\ 1 & 1 & 2 & 3 \\ 3 & 1 & 1 & 2 \end{pmatrix}

AddRoundKey (라운드 키 추가)

키 스케줄을 통해 생성된 라운드 키를 현재 상태 행렬과 XOR 연산한다. 이는 암호화 키를 연산에 직접적으로 섞는 단계이다.

RSA

RSA(Rivest-Shamir-Adleman) 알고리즘은 큰 정수의 소인수분해가 어렵다는 수학적 원리를 기반으로 한 비대칭키 암호화 방식이다. 공개키와 개인키를 한 쌍으로 사용하며, 공개키로 암호화한 메시지는 개인키로만 복호화할 수 있다.
예시를 통해서 RSA의 키 설정 및 암/복호화에 대해 알아보자.

키 생성 과정

두 개의 서로 다른 소수 p와 q를 선택한다.

예시: p=7, q=13

모듈러 n을 계산한다. n은 공개키와 개인키의 일부가 된다.

n=p×q

예시: n=7×13=91

오일러 피 함수 ϕ(n) 값을 계산한다.

ϕ(n)=(p−1)×(q−1)

예시: ϕ(91)=(7−1)×(13−1)=6×12=72

$\phi(n)$ 보다 작고 $\phi(n)$ 과 서로소(coprime)인 정수 e를 선택한다. e는 공개키의 지수가 된다.

예시: e=5

개인키의 지수 d를 계산한다. d는 $e \times d \equiv 1 \pmod{\phi(n)}$ 을 만족하는 값이다. 이 값은 확장 유클리드 호제법으로 구할 수 있다.

예시: $5d \equiv 1 \pmod{72}$ 를 만족하는 d=29

최종 키:

공개키 (Public Key): (n,e) → (91,5)

개인키 (Private Key): (n,d) → (91,29)

암호화 및 복호화 과정

평문(Plaintext): m
공개키: (n,e)
개인키: (n,d)

암호화 (Encryption)
평문 m을 공개키 $(n, e)$ 를 이용해 암호화하여 암호문 c를 만든다.

c=m^e\pmod n

예시: 평문 m=9를 암호화하면 $c=9^5 \mod 91=81$

복호화 (Decryption)

암호문 c를 개인키 $(n, d)$ 를 이용해 복호화하여 평문 m을 언는다.

m=c^d \mod n

예시: 암호문 c=81을 복호화하면 $m=81^29 \mod 91=9$

복호화 원리 (오일러 정리)

복호화가 성공적으로 이루어지는 이유는 오일러 정리(Euler's Theorem)를 통해 증명할 수 있다. 오일러 정리는 a와 m이 서로소일 때 $a^{\phi(m)} \equiv 1 \pmod{m}$ 임을 밝혀진다.

RSA의 복호화 과정은 다음과 같습니다.

m≡(m^e) ^d \mod n

m≡m^{ed} \mod n

키 생성 과정에서 ed≡1(modϕ(n)) 이므로, ed는 1+kϕ(n) 형태로 표현할 수 있습니다. 이를 복호화 식에 대입하면:

m≡m^{1+kϕ(n)} \mod n

m≡m⋅m^{kϕ(n)} \mod n

m≡m⋅(m^{ϕ(n)}) ^k \mod n

여기서 오일러 정리에 따라 $m^{ϕ(n)} ≡1 \mod n$ 이므로,

m≡m⋅(1)^k \mod n

m≡m \mod n

따라서 개인키 d를 사용하여 암호문 c를 복호화하면 원래 평문 m이 올바르게 복원된다.

Reference

omin

다음 포스트

[암호학 기본 01] 대칭키 / 비대칭키, AES, RSA