[네트워크 관리사] IPsec(Internet Protocol Security) 프로토콜이란?

Hyunjun Kim·2025년 3월 7일

네트워크관리사 (자격증)

목록 보기

24/26

1. IPsec 프로토콜이란?

IPsec(Internet Protocol Security)은 IP 계층(3계층)에서 보안을 제공하는 프로토콜 모음으로, 네트워크를 통해 전송되는 데이터의 기밀성(암호화), 무결성(변조 방지), 인증(송신자 검증)을 보장하는 네트워크 보안 기술이다.
IPsec은 VPN(Virtual Private Network)과 같은 보안 통신에 주로 사용된다.

🔹 핵심 개념:

네트워크에서 데이터를 암호화하고 보호
IP 계층(3계층, 네트워크 계층)에서 동작
VPN(Virtual Private Network)과 같은 보안 통신에 주로 사용됨

1.2. IPsec의 주요 기능

기능	설명
인증(Authentication)	송신자가 신뢰할 수 있는지 검증
기밀성(Confidentiality)	데이터 암호화를 통해 정보 보호
무결성(Integrity)	데이터가 변조되지 않았음을 보장
재전송 방지(Anti-replay Protection)	패킷을 복사해서 재전송하는 공격 방지

2. IPsec의 핵심 프로토콜

IPsec은 ESP(Encapsulation Security Payload)와 AH(Authentication Header) 두 가지 주요 프로토콜을 사용한다

프로토콜	기능	설명
AH(Authentication Header)	인증	패킷의 무결성과 인증을 제공하지만 암호화 없음
ESP(Encapsulation Security Payload)	인증 + 암호화	데이터 암호화 및 무결성 제공 (보안 강력)

📌 일반적으로 ESP를 많이 사용하며, AH는 무결성 검증이 필요할 때 사용됨.

3. IPsec 핵심 개념

3.1. SA(Security Association)

SA(Security Association, 보안 연결)는 IPsec에서 보안 정책과 키 교환 정보를 관리하는 개념이다.
IPsec이 동작하려면 각 통신 방향마다 SA가 설정되어 있어야 함.

개념	설명
SA (Security Association)	보안 정책 및 키 관리 (IPsec이 동작하는 기반)
SPI (Security Parameter Index)	패킷이 어떤 SA를 따르는지 구별하는 식별값
IKE (Internet Key Exchange)	SA를 자동으로 설정하는 프로토콜

📌 SA가 설정된 후에야 AH/ESP가 제대로 작동함.

3.2. SPI (Security Parameter Index)

SPI(Security Parameter Index)는 패킷이 어떤 SA(Security Association)를 따르는지 구별하는 식별값이다. SPI는 IPsec에서 각 보안 연결을 식별하는 중요한 역할을 한다.

개념	설명
SPI (Security Parameter Index)	패킷이 어떤 SA를 따르는지 구별하는 식별값
SA (Security Association)	보안 정책 및 키 관리 (IPsec이 동작하는 기반)
IKE (Internet Key Exchange)	SA를 자동으로 설정하는 프로토콜

📌 SPI는 SA와 함께 사용되어 패킷의 보안 연결을 식별하고 관리한다.

3.3. IKE (Internet Key Exchange)

IKE(Internet Key Exchange)는 IPsec에서 보안 연결을 설정하고 암호화 키를 교환하는 프로토콜이다. IKE는 두 가지 주요 버전인 IKEv1과 IKEv2가 있으며, SA를 설정하는 자동화된 과정을 관리한다.

개념	설명
IKE (Internet Key Exchange)	SA를 자동으로 설정하고 암호화 키를 교환하는 프로토콜
IKEv1	구버전, 더 많은 구성 요소와 복잡한 설정 필요
IKEv2	새로운 버전, 향상된 보안성과 성능 제공

📌 IKE는 IPsec을 구현하기 위한 중요한 프로토콜로, SA의 생성 및 관리와 암호화 키의 안전한 교환을 처리한다.

4. IPsec 동작 방식

IPsec은 두 가지 동작 모드를 제공

모드	설명	사용 예시
전송 모드(Transport Mode)	데이터(payload)만 암호화	호스트 간 보안 통신
터널 모드(Tunnel Mode)	전체 IP 패킷을 암호화	VPN(가상사설망) 구축

📌 VPN을 구축할 때는 "터널 모드"를 사용하여 인터넷을 통해 안전하게 데이터를 주고받음.

5. IPsec의 활용 사례

VPN(Virtual Private Network)
- 공용 네트워크에서도 안전한 통신을 보장하기 위해 사용됨.
- 원격 근무자가 사내 네트워크에 안전하게 접속할 때 사용.
기업 네트워크 보안
- 사내 네트워크에서 중요한 데이터를 암호화하여 보호.
데이터 센터 간 보안 연결
- 클라우드 또는 원격 데이터 센터 간 통신을 보호하기 위해 사용됨.

6. IPsec과 SSL/TLS 비교

비교 항목	IPsec	SSL/TLS
작동 계층	네트워크 계층 (L3)	전송 계층 (L4)
주요 사용 사례	VPN, 네트워크 보안	HTTPS, 웹 보안
보안 범위	모든 네트워크 트래픽 보호	애플리케이션 트래픽 보호

📌 IPsec은 전체 네트워크 트래픽을 보호, SSL/TLS는 웹 브라우저 등의 애플리케이션 트래픽을 보호.

7. 연습 문제

1. 다음 중 IPsec 프로토콜에 해당하는 것은 무엇인가요?
• AH
• ESP
• SA
• TCP
• UDP
• HTTP

정답
AH, ESP, SA

해설

항목	IPsec 프로토콜 여부	설명
AH (Authentication Header)	O	IP 패킷의 인증과 무결성을 제공하는 IPsec 프로토콜
ESP (Encapsulation Security Payload)	O	IP 패킷을 암호화하고 인증하는 IPsec 프로토콜
SA (Security Association)	O	IPsec에서 보안 정책을 설정하는 개념 (프로토콜 X, 핵심 요소 O)
TCP (Transmission Control Protocol)	X	신뢰성 있는 데이터 전송을 위한 전송 계층(4계층) 프로토콜
UDP (User Datagram Protocol)	X	빠른 데이터 전송을 위한 비연결형 전송 계층(4계층) 프로토콜
HTTP (HyperText Transfer Protocol)	X	웹 페이지 전송을 위한 애플리케이션 계층(7계층) 프로토콜

2. 다음은 네트워크 보안 프로토콜과 관련된 설명입니다. 빈칸에 들어갈 적절한 용어를 적으시오.
(A): IPsec에서 인증을 제공하는 헤더로, 데이터 무결성과 송신자의 인증을 보장합니다.
(B): IPsec에서 데이터 암호화와 인증을 담당하며, 기밀성과 무결성을 함께 제공합니다.
(C): IPsec에서 보안 연결을 설정하고 암호화 키를 교환하는 데 사용되는 프로토콜입니다.

정답
(A) : AH, (B) : ESP, (C) : IKE

3. 다음은 네트워크 보안 프로토콜과 관련된 설명입니다. 빈칸에 들어갈 적절한 용어를 적으시오.
(A): IP 패킷에 대한 인증을 제공하고 데이터의 무결성을 보장하는 프로토콜 헤더, 기밀성(암호화)은 제공하지 않음
(B): IPSec 서비스를 구현할 때 암호화 및 인증에 사용할 요소를 정의하는 것, IPSec 서비스 구현 시 암호화 및 인증에 사용할 요소를 정의하는 개념, 통신 세션에서 보안 매개변수를 설정하는 데 사용됨
(C): IP 패킷에 대한 인증과 암호화를 실시하고 데이터의 무결성과 기밀성을 보장하는 프로토콜 헤더