[Network] IPSec (IP Security)

📌 본 게시물은 자기 학습 목적으로 작성되어 일부 내용이 부정확하거나 최신 정보와는 다를 수 있습니다.
💬 잘못된 부분이나 보완할 점이 있다면 댓글로 공유하여 주시면 감사하겠습니다!

1️⃣ IPSec (IP Security)

• 네트워크 종단 노드 구간 또는 보안 게이트웨이(방화벽, 라우터, VPN 등) 사이에서 IP 계층의 무결성 및 인증을 보장하는 보안 프로토콜
• IP 계층에서 보안 서비스를 직접 제공하여 상위 계층 애플리케이션을 수정할 필요 없이 적용 가능
• IPSec VPN : IPSec 프로토콜을 사용한 VPN

2️⃣ IPSec 동작 모드

1. 터널 모드(Tunnel Mode)

• IP 헤더 전체를 캡슐화하여 전송구간 주소를 담은 New IP 헤더를 추가하고 IP헤더와 데이터는 모두 암호화
• 최초 출발지와 최종 목적지에 대한 트래픽 기밀성은 보장하나 New IP 헤더로 인해 보안/터널 게이트웨이 구간 정보는 노출될 수 있음
• 주로 물리적으로 떨어진 본/지사 사이 다수의 사용자 호스트와 서버로 구성된 환경(터널/보안 GW 또는 종단 노드와 터널/보안 GW 구간)의 IP 패킷 보호를 목적으로 함

2. 전송 모드(Transport Mode)

• 기존 IP 헤더 부분은 그대로 사용하고 IP의 상위 프로토콜 데이터인 TCP 헤더, 데이터 Payload만 보호
• 주로 종단(End-Point) 구간의 IP 패킷 보호를 목적으로 함
• IP 헤더를 보호하지 않아 최초 출발지와 최종 목적지에 대한 트래픽 흐름이 분석될 수 있음

3️⃣ IPSec 프로토콜

📌 1. AH(Authentication Header) Protocol

• 데이터 무결성과 IP 패킷의 인증을 제공

• 인증 시 MD5, SHA-1 인증 알고리즘을 기반으로 Key 값과 IP 패킷 데이터를 입력한 인증 값을 계산하여 인증 필드에 기록

  • 송신측에서 메세지 인층 코드(MAC) 알고리즘과 인증 Key를 사용하여 인증 Data를 계산하여 전송 -> 수신측에서 이를 검증하여 인증(무결성과 송신처 인증)을 제공

• 인증 Data 계산에는 IP 헤더의 변경 간으 필드를 제외한 IP 해킷 전체를 대상으로 함

• Replay Attack 방지를 위한 순서번호 기능을 제공
  

  AH Protocol 주요 헤더 필드	설명
  SPI (Security Parameter Index)	현재 연결에 대한 보안 연관(SA) 식별자 AH 프로토콜 동작에 필요한 무결성 검증 알고리즘 정보와 재전송 공격 탐지에 필요한 정보 등이 저장된 위치를 저장
  Sequence Number	재전송 공격 방지를 위한 필드 SA이 구성될 때 '0'으로 초기화되는 특성을 갖고 있어 SA를 사용하여 데이터그램이 소신될 때마다 항상 1씩 증가하여 재전송 공격 방지가 가능
  Authentication Data	무결성 검사 값 IP Header의 변경 가능한(Mutable) 필드를 제외한 IP 패킷 전체에 대한 MAC 값(= ICV(Integrity Check Value)을 설정

  
  

• AH Protocol 동작 모드
  

1. 전송 모드 : IP Header에서 Mutual 필드를 제외한 IP 패킷 전체를 인증
2. 터널 모드 : New IP Header에서 Mutual 필드를 제외한 New IP 패킷 전체를 인증

📌 2. ESP(Encapsulating Security Payload) Protocol

• 메세지 인증 코드(MAC)와 암호화를 이용하여 인증(무결성, 송신처 인증, 밀성)을 제공하면서 인증과 암호화를 선택할 수 있음
  - AH와 달리 대칭키, DES, 3-DES 알고리즘 기반의 암호화를 제공
  - AH와 달리 IP Header에 대한 인증을 수행하지 않음
  
  

ESP Protocol 주요 헤더 필드	설명
ESP Header Filed	1. SPI(Security Parameter Index): 현재 연결에 대한 보안연관(SA) 식별자로 도착 IP 주소와 ESP를 조합하여 데이터그램에 대한 SA를 식별
	2. Sequence Number: 재전송 공격 방지를 위한 필드
ESP Trailer Filed	암호화 및 정렬을 위한 추가적인 패딩 바이트와 다음 헤더의 프로토콜 번호를 포함하여 헤더를 연결하는데 사용
ESP Auth Filed	ESP 인증 알고리즘을 적용하여 계산된 ICV 값

• ESP Protocol 동작 모드
  

1. 전송 모드 : IP Payload + ESP Trailer 암호화 / ESP Header + 암호화된 데이터 인증
2. 터널 모드 : Original IP 패킷 전체 + ESP Trailer 암호화 / ESP Header + 암호화된 데이터 인증

4️⃣ IKE(Internet Key Exchange) 프로토콜

• IPSec에서 보안 연결을 설정하기 위해 암호화 키와 보안 매개변수(SA, Security Association)를 교환하는 프로토콜
• IKE는 양 끝단 장치(클라이언트와 서버 또는 게이트웨이) 간에 안전한 통신을 보장하기 위해 필요한 암호화, 인증, 무결성 관련 설정을 자동으로 협상하고 관리
• UDP 프로토콜 기반으로 전송되며 출발지 및 도착지 주소는 500 Port를 사용

- IKE 기반 터널 생성 과정

1. IKE Phase 1 (ISAKMP SA)

• 안전한 관리 연결을 설정
• IKE용 마스터키 생성 : Phase 2에서 사용할 메세지들을 어떻게 보호할 것인가를 협상하는 단계
• RSA로 VPN을 인증 및 Diffie-Hellman 키 교환으로 대칭키 교환
• Phase 1에서 생성된 SA를 ISAKMP SA라고 칭하며 양방향성을 가지고, 아래 중 1개의 모드로 구현

1) Main Mode : 3쌍의 메세지(6개의 메세지)를 교환하는 방식(Default)로 Aggressive Mode 보다 단계가 맣ㄴ으나 세션 ID를 암호화하여 보안성이 높음
2) Aggressive Mode : Main Mode 보다 빠른 버전으로 3쌍의 메세지가 아닌 3개의 메세지를 교환하여 협상은 빠르나 세션 ID를 암호화하지 않아 보안성이 낮음

2. IKE Phase 2 (IPSec SA)

• IPSec 데이터 보호를 위한 SA를 설정
• Phase 1에서 생성된 ISAKMP SA를 가지고 실질적으로 데이터를 어떤 방식으로 보호할 것인지를 협상하는 단계
• IPSec에서 사용할 구체적인 보안 매개변수인 암호화할 알고리즘, 해시함수 등 선택
• Phase 2에서 생성된 SA를 IPSec SA라고 칭하며 ISAKMP SA를 통해 메세지가 보호되며 Quick Mode를 통해 구현됨
• Quick Mode : 3번의 메세지 교환을 통해 IPSec 통신을 위한 SA 및 키 협상을 하며 이때 생성되는 SA는 단방향성을 가져 송신용/수신용 SA가 각각 생성됨
  

---

📝 참고

https://isc9511.tistory.com/46
https://goc1221.tistory.com/72