SSL을 통한 HTTPS 통신

글을 쓰게 된 계기

우아한테크코스 레벨3 프로젝트를 진행하면서 클라이언트와 서버의 통신에 SSL 인증서를 적용하여 HTTPS 통신을 하도록 하였다.
HTTPS의 통신과정에 대한 이해를 공유하기 위해 글을 작성하고자 한다.

HTTPS

HTTPS는 SSL(Secure Sokect Layer) 위에 HTTP를 얹어서 보안이 보장된 통신을 하고자하는 프로토콜이다.

SSL 인증서

클라이언트와 웹 서버간의 통신을 제3자가 보증해주는 전자문서이다.
클라이언트가 서버에 접속한 직후에 서버는 클라이언트에게 SLL 인증서를 전달한다.
클라이언트는 신뢰 할 수 있는 인증서인지 검증한 후 서버와 통신을 진행한다.
(밑에서 자세히 설명)

SSL 인증서 사용이유

왜 HTTP 통신에 굳이 SSL 인증 과정을 붙혓을까? 이유는 다음과 같다.

• 통신 내용이 악의적인 목적을 가진 사람에게 노출되는 것 을 막을 수 있다.
• 클라이언트가 접속하는 서버가 신뢰할 수 있는 서버인지 판단 할 수 있다.
• 통신 내용의 악의적인 변경을 방지 할 수 있다.

SSL 통신과정은 꽤나 복잡하다.
그래서 SSL 프로토콜을 이해하려면 우선 암호화/복호화와 키(대칭키, 공개키)에 대해 이해할 필요가 있다.

암호화, 복호화, 키

어떤 정보를 외부에 노출시키지 않기 위해 변형하는 것을 암호화 라고한다.
반대로 암호화된 데이터를 원본으로 복원하는것을 복호화라고 한다.
암호화와 복호화에서 데이터 변형을 위해 사용하는것을 키라고 한다.

이렇게 키를 사용하여 암호화/복호화 하는 방식에는 대칭키 방식과 공개키 방식이 있다.
두 방식 모두 SSL 통신에 사용되기 때문에 이해할 필요가 있다.

대칭키 방식

대칭키는 동일한 키로 암호화와 복호화를 같이 할 수 잇는 방식의 암호화 기법을 의미한다.
암호화와 복호화를 위해 양쪽이 같은 키를 가져야 한다는 점에서 이 키를 대칭키라고 한다.

전쟁상황을 가정해서 살펴보자. A진영과 B진영이 전쟁 중일 때, 적군에게 정보를 노출하지 않으려면 서로 같은 키(대칭키)를 가지고 정보를 암호화 해서 전달 할 수 있을 것이다.

그런데, 대칭키는 하나의 큰 단점을 가진다. 바로 대칭키를 A진영에서 B진영 또는 B진영에서 A진영으로 전달 할 때,
대칭키가 탈취 된다면 적군도 정보를 복호화 할 수 있다는 것이다.

이런 배경에서 나온 암호화 방식이 공개키 방식이다.

공개키 방식

공개키는 키가 두개가 있다.
A키로 암호화 하면 B키로 복호화 할 수 있고 B키로 암호화 하면 A키로 복호화 하는 방식이다.

이 방식에 착안해서 두개의 키 중 하나를 공개키, 하나를 비공개 키로 지정한다.

그림을 통해 자세히 살펴보자.

A진영은 공개키를 B진영에게 전달한다.
그리고 B진영은 A진영의 공개키를 통해 정보를 암호화 한 후 A진영에 전달한다.
A진영은 비공개키를 통해 전달 받은 정보를 복호화한다.

A진영의 공개키가 탈취되거나 B진영이 전달한 정보가 탈취되어도 비공개키가 없으면 복호화가 불가능 하기 때문에 대칭키 방식의 단점을 극복 할 수 있다.

공개키 방식은 이렇게 응용 할 수 있다.
A진영이 비공개키를 이용해서 정보를 암호화 한 후에 공개키와 함께 암호화된 정보를 B진영에 전달한다.

그런데, 이런 응용방식은 중간에 공개키와 암호화된 정보를 탈취 당하면 적군에게 정보를 노출 당할 수 있는 문제를 가져온다.

그런데 SSL 통신에서는 이런 응용방식을 사용한다. 그 이유가 무엇일까?

SSL 통신이 공개키 응용방식을 사용하는 이유

그 이유는 공개키 응용방식이 데이터 보호 목적이 아니기 때문이다.

A진영이 전달한 정보를 A진영의 공개키로 복호화 할 수 있다면, 정보가 A진영이 전달한 정보임을 신뢰 할 수 있다.

즉, 공개키가 정보를 전달한 사람의 신원을 보장해주는 것이다. 이것을 전자 서명이라고 하고 SSL 통신에서 서버의 신원 확인을 위해 사용한다.

SSL 용어 정리

이제 SSL 통신에 사용되는 대칭키 방식, 공개키 방식, 공개키 응용방식을 살펴보았으니 SSL을 통한 통신에 대해 자세히 살펴보자.
우선, SSL과 관련된 용어를 정리해보자.

CA

SSL 인증서의 역할은 클라이언트가 접속한 서버가 클라이언트가 의도한 서버가 맞는지를 보장하는 역할을 한다.
이 역할을 하는 민간기업들이 있는데 이런 기업들을 CA(Certificate authority) 라고한다.

SSL 인증서 내용

SSL 인증서에는 다음과 같은 정보가 포함되어 있다.

• 서비스의 정보 (인증서를 발급한 CA, 서비스의 도메인 등등)
• 서버 측 공개키 (공개키의 내용, 공개키의 암호화 방법)

SSL 통신 과정

이제 키를 사용한 3가지 통신 방법을 살펴보았으니 SSL 통신과정을 이해해보자.

SSL 통신과정에서 가장 이상적인 방법은 공개키 방식이다.(공개키 응용방식 아님)

클라이언트와 서버는 각각의 비공개키, 공개키를 가지고
자신의 공개키를 서로에게 전달한다. 이때, 공개키는 탈취되어도 비공개키가 없으면 복호화가 불가능하기 때문에 보안에 취약점이 없다.

그리고, 클라이언트는 서버의 공개키로 정보를 암호화 해서 전달하고 서버는 전달 받은 정보를 자신의 비공개키(서버 비공개키)로 복호화한 뒤 정보를 처리한다.

마지막으로 서버는 클라이언트의 공개키로 응답해줄 정보를 암호화해서 다시 클라이언트에게 전달한다.

그런데, 공개키 방식은 컴퓨팅 파워를 많이 쓴다고한다.(컴퓨팅 파워를 많이쓰는 정확한 이유는 모름) 그래서 성능측면에서 비효율적이다.

결론적으로, SSL 통신은 공개키 방식 + 대칭키 방식을 사용하여 보안과성능 두가지 측면을 보장한다.

이제 SSL 통신과정을 천천히 자세하게 살펴보자.

HandShake -> 통신 -> 통신종료

간단하게, SSL 통신은 위 세가지 과정으로 이루어진다.
순서대로 하나씩 살펴보자.

HandShake(악수)

SSL 통신은 데이터를 주고 받기전에 어떻게 데이터를 암호화 할지, 믿을 만한 서버인지 등에 대해 이 과정에서 확인한다.

1. 클라이언트가 서버에 접속한다. 이 단계를 Client Hello라고 한다. 이 단계에서 주고 받는 정보는 아래와 같다.

   • 클라이언트 측에서 생성한 랜덤 데이터 (밑에서 설명)

   • 클라이언트가 지원하는 암호화 방식들 => 클라이언트가 가능한 암호화 방식을 서버에 알려주기 위함

2. 서버는 Client Hello에 대한 응답으로 Server Hello를 하게 된다. 이 단계에서 주고 받는 정보는 아래와 같다.

   • 서버 측에서 생성한 랜덤 데이터 (밑에서 설명)

   • 서버가 선택한 클라이언트의 암호화 방식 => 선택한 암호화 방식을 클라이언트에게 알려주기 위함

   • 인증서

3. 클라이언트는 서버의 인증서가 CA에 의해 발급된 것인지 확인한다.
   이때, 클라이언트에 내장된 CA리스트와 CA의 공개키를 사용해서 인증서를 복호화 한다.

   💡 참고
   위에서 말한 공개키 응용방식의 활용
   그리고, 클라이언트(브라우저)는 CA 종류와 CA의 공개키가 내장되있음

   성공적으로 인증서가 복호화 됬다면, 서버가 전달한 인증서가 CA의 개인키로 암호화된 문서임이 보증된 것이다.
   즉, 올바른 서버임을 신뢰 할수 있게된다.

   서버를 신뢰할수 있으므로 클라이언트는 서버가 생성한 랜덤 데이터와 클라이언트가 생성한 랜덤 데이터를 조합하여 pre master secret이라는 키를 생성한다.

   이때, pre master secret키는 대칭키 방식으로 사용 할 것이다.
   클라이언트와 서버가 동일하게 가지고 데이터를 암호화/복호화 하는데 사용한다는 것이다.

   그런데 대칭키 방식의 단점에서 살펴봤듯이 pre master secret를 그대로 서버에 전달하면 중간에 탈취당해 악용될수 있다.

   이때, 사용하는 방법이 공개키 방식이다.
   서버의 공개키(서버가 전달해준 인증서 내부에 들어있었음)로 pre master secret를 암호화해서 서버로 전송한다.

4. 서버는 자신의 비공개키를 통해 pre master secret를 복호화한다.

   이를 통해, 클라이언트와 서버는 안전하게 같은 pre master secret를 가진다.
   서버와 클라이언트는 일련의 과정을 통해 pre master secret을 master secret라는 session key를 생성한다.
   master secret은 실제로 클라이언트와 서버가 주고받는 데이터를 암호화/복호화 하는데 사용한다.

5. 클라이언트와 서버는 HandShake가 종료됬음을 서로에게 알린다.

통신

이제 master secret을 통해 클라이언트와 서버는 데이터를 암호화/복호화하면서 주고 받는다.

통신종료

데이터의 전송이 끝나면 SSL 통신이 끝났음을 서로에게 알려준다.
그리고 사용한 대칭키인 master secret은 폐기한다.

마치면서

이상 SSL통신에 대해서 자세하게 살펴보았다.
SSL 통신은 공개키 방식, 대칭키 방식을 합쳐서 사용하는 만큼 꽤나 복잡하다.
작성한 글이 많은 크루들에게 HTTPS와 SSL 통신에 대한 이해에 도움이 되었으면 좋겠다.

참조

https://opentutorials.org/course/228/4894