Hybrid Encryption

wooju·2025년 3월 22일

1. Hybrid Encryption이란?

현대 보안 시스템에서 데이터 암호화는 필수적이다. 하지만 단순히 대칭 암호화(Symmetric Encryption) 또는 비대칭 암호화(Asymmetric Encryption) 중 하나만 사용하면, 보안성과 성능 사이의 트레이드오프가 발생한다.

이를 해결하기 위해 하이브리드 암호화(Hybrid Encryption) 방식이 등장했다.

하이브리드 암호화는 다음과 같은 방식으로 동작한다.

비대칭 암호화(RSA)를 사용하여 대칭 키(AES 키)를 안전하게 공유한다.
대칭 암호화(AES)를 사용하여 실제 데이터를 빠르게 암호화한다.

하이브리드 암호화는 대칭 암호화와 비대칭 암호화의 장점을 결합하여 보안성과 효율성을 동시에 확보하는 암호화 기법으로, 암복호화의 속도가 빠른 대칭키 암호화의 장점과 비대칭키 암호화 알고리즘의 보안성의 장점을 결합하여 효율적이면서도 안전하게 암호화를 수행할 수 있다. 이 방식은 실제로 TLS(HTTPS), PGP 등에서 널리 사용된다.

2. 하이브리드 암호화의 동작 방식

키 생성

송신자는 비밀키(AES Key)를 생성한다.
수신자는 공개키/개인키 쌍(RSA Public/Private Key)를 생성한다.

데이터, 키 암호화 및 전송
- 송신자는 비밀키로 메시지를 암호화(AES Encryption)한다.
- 송신자는 대칭 키를 수신자의 공개키로 암호화(RSA Encryption) 한다.
암호화된 데이터 전송
- 송신자는 암호화된 메시지와 암호화된 대칭 키를 함께 전송한다.
복호화 과정
- 수신자는 개인 키(RSA Private Key)로 송신자의 비밀키를 복호화(RSA Decryption)한다.
- 복호화된 비밀키를 사용해 메시지를 복호화(AES Decryption)한다.

이 과정을 통해, 송신자와 수신자 간의 안전한 데이터 전송이 가능하다.

3. Rust를 활용한 하이브리드 암호화 예제

다음은 Rust의 RustCrypto 라이브러리를 사용하여 하이브리드 암호화를 구현하는 간단한 코드 예제이다.

// Hybrid Encryption
let plaintext = b"Hello, Hybrid Encryption!";
println!("* Original Text: {}", String::from_utf8_lossy(plaintext));

// 1️. generate RSA key
let (rsa_pub_key, rsa_priv_key) = generate_rsa_keys();

// 2️. generate AES-256-GCM key and IV
let aes_key = generate_aes_key();
let iv = generate_iv(12); 

// 3️. encrypt(AES-256-GCM) plaintext
let encrypted_data =
    encrypt_aes_gcm(&aes_key, &iv, plaintext).expect("AES-GCM encryption failed");
println!("* AES-GCM Encrypted Data: {}", hex::encode(&encrypted_data));

// 4️. encrypt(RSA-OAEP) AES key
let encrypted_aes_key = rsa_pub_key
    .encrypt(&mut rand::thread_rng(), Oaep::new::<Sha256>(), &aes_key)
    .expect("RSA encryption failed");
    println!(
    "* Encrypted AES Key (RSA-OAEP): {}",
    hex::encode(&encrypted_aes_key)
);

// 5️. decrypt(RSA-OAEP) AES key
let decrypted_aes_key = rsa_priv_key
    .decrypt(Oaep::new::<Sha256>(), &encrypted_aes_key)
    .expect("RSA decryption failed");

// 6️. decrypt(AES-256-GCM) plaintext
let decrypted_data = decrypt_aes_gcm(&decrypted_aes_key, &iv, &encrypted_data)
    .expect("AES-GCM decryption failed");
println!(
    "* Decrypted Data: {}",
    String::from_utf8_lossy(&decrypted_data)
);