[Computer Science][Network] 🔐 대칭키와 공개키: 암호화 알고리즘의 핵심 이해

암호화와 복호화는 현대 보안 시스템에서 매우 중요한 역할을 합니다. 이 글에서는 대칭키와 공개키의 개념을 설명하고, 하이브리드 방식을 통해 보안성과 성능을 모두 확보하는 방법을 알아봅니다.

🔑 대칭키(Symmetric Key)

암호화와 복호화에 동일한 암호키(대칭키)를 사용하는 알고리즘

대칭키는 암호화와 복호화에 동일한 키를 사용하므로, 매우 빠르게 처리된다는 장점이 있습니다. 하지만, 이 키를 주고받는 과정에서 해킹 위험이 존재할 수 있습니다.

🔓 공개키(Public Key) / 비대칭키(Asymmetric Key)

암호화와 복호화에 사용하는 암호키를 분리한 알고리즘

공개키는 대칭키의 키 분배 문제를 해결하기 위해 고안되었습니다. 대칭키 방식에서는 송신자와 수신자 간의 키 분배가 복잡하고 위험할 수 있지만, 공개키와 비밀키로 분리된 방식에서는 공개키를 누구에게나 공개해도 문제가 없습니다.

🔄 공개키 암호화 방식 진행 과정

1. A가 B의 공개키로 암호화: A는 웹에 공개된 B의 공개키를 이용해 평문을 암호화하여 B에게 보냅니다.
2. B가 비밀키로 복호화: B는 자신의 비밀키로 암호화된 메시지를 복호화하여 평문을 확인하고, A의 공개키로 응답을 암호화해 A에게 보냅니다.
3. A가 비밀키로 복호화: A는 자신의 비밀키로 암호화된 응답문을 복호화합니다.

이 방식은 데이터의 기밀성(Confidentiality)을 보장해주지만, 무결성(Integrity)과 인증(Authenticity)은 보장하지 않습니다. 즉, 데이터를 허가되지 않은 사람에게서 보호해주지만, 데이터가 전송 중에 변경되지 않았는지 또는 송신자가 실제로 그 사람인지 확인할 수 없습니다.

➡️ 이를 해결하기 위해 MAC(Message Authentication Code)와 전자 서명(Digital Signature)이 사용됩니다. (유의: MAC은 대칭키 방식임!)

🔐 MAC(Message Authentication Code)

• 대칭키 알고리즘을 사용하여 메시지와 공유된 비밀키로 MAC 값을 생성합니다. 이 MAC 값은 메시지와 함께 전송됩니다.
• 수신자는 동일한 비밀키로 동일한 방식으로 MAC 값을 생성하고, 전송된 MAC 값과 비교합니다. 일치하면 메시지가 변조되지 않았고, 송신자가 올바른 사람임을 확인할 수 있습니다.
• MAC 형식: T=MAC(K,M)
  • T는 생성된 MAC 값
  • K는 송신자와 수신자가 공유한 비밀키
  • M은 메시지
• 중요: MAC은 대칭키를 사용하므로, 송신자와 수신자가 동일한 키를 공유해야 하며, 이는 공개키 암호화 방식이 아닌 대칭키 암호화 방식입니다.

✒️ 전자 서명(Digital Signature)

• 송신자는 메시지에 자신의 비밀키로 서명합니다. 서명은 일반적으로 메시지의 해시값을 비밀키로 암호화하여 생성됩니다.
• 수신자는 송신자의 공개키로 서명을 복호화하고, 메시지의 해시값을 계산하여 비교합니다.
• 서명 검증이 성공하면, 메시지가 변조되지 않았고 송신자가 실제로 메시지를 보낸 것이 확인됩니다.
• 참고: 여기서의 암호화와 복호화는 일반적인 의미의 암호화-복호화와는 다릅니다. 이는 서명이 실제로 송신자의 비밀키로 생성된 것인지를 확인하는 과정입니다.

대칭키에 비해 암호화와 복호화 과정이 매우 복잡하지만, 암호화하는 키와 복호화하는 키가 서로 다르기 때문에 안전성이 높습니다.

🔄 하이브리드 방식: 대칭키와 공개키 암호화의 결합

SSL(Secure Sockets Layer)의 시초가 된 방식

1. 대칭키 전송: A는 B의 공개키로 암호화 통신에 사용할 대칭키를 암호화해 B에게 보냅니다.
2. 비밀키로 복호화: B는 자신의 비밀키로 암호문을 복호화합니다.
3. 대칭키로 암호화: B는 A로부터 받은 대칭키로 평문을 암호화하여 A에게 보냅니다.
4. 대칭키로 복호화: A는 자신의 대칭키로 암호문을 복호화합니다.
5. 대칭키로 통신: 이후로는 이 대칭키를 사용해 통신을 진행합니다.

➡️ 하이브리드 방식은 공개키 암호화를 사용하여 대칭키를 안전하게 교환한 후, 대칭키를 이용해 빠르고 효율적으로 통신하는 방법입니다.

❓ 왜 하이브리드 방식을 사용하는가?

• 공개키 암호화는 안전하지만 속도가 느리기 때문에, 초기에는 대칭키를 안전하게 교환하는데만 사용됩니다.
• 대칭키 암호화는 빠르고 효율적이지만, 키의 안전한 교환이 어렵습니다.

이러한 하이브리드 방식은 보안성과 성능을 모두 확보할 수 있어, SSL과 TLS(Transport Layer Security)와 같은 프로토콜에서 널리 사용됩니다.