HTTPS란(with 대칭키, 공개키)

이상훈·2024년 1월 1일

CS

목록 보기

6/27

암호화 방식

1. 대칭키 암호화

동일한 키로 암호화, 복호화가 가능하다.
동일한 키를 주고 받기 때문에 비대칭키(공개키)보다 빠르게 통신할 수 있다.

아래 예시는 "hello"라는 키워드를 대칭키를 사용하여 암호화/복호화하고 있다. 암호화하는 쪽이랑 복호화하는 쪽이랑 동일한 키를 사용한다.

Plaintext + key = ciphertext : hello + 2jd8932kd8 = X5xJCSycg14
Ciphertext + key = plaintext : X5xJCSycg14 + 2jd8932kd8 = hello

그런데 문제는 어떻게 동일한 키를 애초에 양쪽이 공유하느냐이다. 결국 한번은 한쪽에서 다른쪽으로 이 키를 전송해야 하는데 중간에 누군가가 탈취할 위험이 존재한다. 이러한 점이 대칭키의 한계이다. 이를 보완한것이 공개키(비대칭키) 암호화 방식이다.

2. 공개키(비대칭키) 암호화

공개키 암호화는 비대칭키 암호화라고도 부른다.
암호화와 복호화에 사용하는 키를 분리한다.
- A키로 암호화를 하면 B키로 복호화를 할 수 있다.
- B키로 암호화를 하면 A키로 복호화를 할 수 있다.
자신이 가지고 있는 고유한 비밀키로만 복호화할 수 있는 공개키를 대중에 공개한다.

공개키 암호화 방식은 아래와 같다.

A가 웹 상에 공개된 "네이버의 공개키"를 이용해 평문을 암호화하여 네이버에게 전송한다.
네이버는 "자신의 비밀키"로 복호화한 평문을 확인, A의 공개키로 응답을 암호화하여 A에게 전송한다.
A는 자신의 비밀키로 암호화된 응답문을 복호화한다.

만약 A가 네이버에게 전송하는 메시지가 해커에게 노출되면 어떻게 될까? 메시지는 네이버의 비밀키로만 복호화할 수 있기 때문에 안전하다. 여기서는 설명 편의상 공개키를 대중에게 공개한다고 했지만 사실은 CA와 인증서 관련하여 일부 과정이 생략되었다.
하지만 공개키 방식은 암호화/복호화가 복잡하고 느리기 때문에 HTTPS 프로토콜인 SSL/TLS는 대칭키를 주고받을 때만 공개키 암호화 방식을 사용하고 이후에는 계속 대칭키 암호화 방식으로 통신한다.

SSL

SSL(Secure Sockets Layer)은 컴퓨터 네트워크에 통신 보안을 제공하는 프로토콜이다. SSL을 통해 클라이언트와 서버가 주고 받는 통신 데이터에 대한 도청, 간섭, 위조를 방지해준다. 또한 데이터를 암호화 해주기 때문에 클라이언트, 서버가 안전한 통신을 할 수 있다. 참고로 TLS(Transport Layer Security)는 SSL의 업데이트 버전으로 현재 주로 사용되지만 SSL과 크게 다르지 않고 아직 SSL이 더 대중적이라 SSL을 소개한다.

💡처음에는 공개키는 암호화, 개인키는 복호화로 역할이 정해져있다고 생각했는데 잘못 알고 있었다...
1. 클라이언트는 서버로부터 받은 인증서(전자서명)가 CA에 의해서 발급된 것인지 확인하기 위해 클라이언트 측에 저장된 CA의 공개키로 인증서를 검증한다. 즉 공개키로 복호화하는 과정을 거친다.
2. 검증이 성공했다면, 해당 서버가 CA로부터 인증 받았다는 것이 보장된다. 서버를 믿을 수 있게 된 것이다.
3. 클라이언트는 클라이언트 측에서 생성한 랜덤 데이터와 서버 측에서 생성한 랜덤 데이터를 사용해서 pre master secret라는 대칭키를 만든다.

HTTPS

HTTP란 HyperText Transfer Protocol의 약자로써, 풀어서 설명하면 하이퍼텍스트(HyperText)를 전송(Transfer)하기 위해 사용되는 통신 규약(Protocol)이다. 즉, 인터넷에서 HTML과 같은 문서를 사용자 컴퓨터에 설치된 웹 브라우저가 웹 서버에 요청할 때의 규칙이라고 할 수 있다. HTTPS는 HTTP의 보안 버전으로 SSL(TLS) 위에서 동작하는 HTTP다.

HTTP vs HTTPS

HTTP 동작과정

클라이언트는 웹 서버의 80번 포트로 TCP 커넥션을 연다.
HTTP 요청 메세지를 보낸다.
서버로부터 HTTP 응답 메세지를 받는다.
TCP 커넥션을 닫는다.

HTTPS 동작과정

클라이언트는 웹 서버의 443 포트로 TCP 커넥션을 연다.
TCP 연결이 되면 클라이언트와 서버는 암호법 매개변수와 교환 키를 협상하면서 SSL 계층을 초기화 한다. (SSL 핸드 셰이크)
SSL 초기화가 완료되면, 클라이언트는 HTTP 요청 메세지를 SSL 계층에 보낸다.
SSL 계층에서 클라이언트의 HTTP 요청 메세지는 TCP로 보내지기 전에 암호화 된다.

HTTPS의 장단점

장점
- 사이트에 보내는 정보들을 제 3자가 못 보게하고 접속한 사이트가 믿을 만한 곳인지를 알려주기 때문에 보안에 좋다.
- 대표적인 검색 포털 사이트인 네이버, 구글, 다음 모두에서 검색 엔진 최적화를 통해 https를 상위 노출하고 있다.
단점
- HTTPS는 설치 및 인증서를 유지하는 데 추가 비용이 발생한다.
- 암호화하는 과정이 웹 서버에 부하를 준다.
- HTTP에 비해 속도가 느리다.
- 인터넷의 연결이 끊긴 경우 재인증에 시간이 소요된다.