BOF와 OOB

Hae_To·2025년 7월 10일

🔍 메모리 오류의 시작점: OOB와 BOF 취약점 이해하기

현대의 소프트웨어 보안 위협 중 상당수는 ‘메모리 관리의 실패’에서 비롯됩니다. 이 글에서는 대표적인 메모리 관련 취약점인 **OOB(Out-of-Bounds)**와 **BOF(Buffer Overflow)**에 대해 소개하고, 두 취약점이 어떻게 발생하며 어떤 보안 위협을 초래하는지 살펴보겠습니다.

📌 1. OOB(Out-of-Bounds)란?

**OOB(Out-of-Bounds)**는 말 그대로 배열의 범위를 벗어난 접근입니다. 일반적으로 배열이나 버퍼에 데이터를 저장하거나 읽을 때, 허용된 인덱스 범위를 초과해서 접근하면 발생합니다.

✅ 예시 코드 (C 언어)

int arr[5] = {1, 2, 3, 4, 5};
printf("%d\n", arr[7]);  // OOB 발생!

위 코드에서 arr[7]은 정의되지 않은 메모리 영역을 참조하게 되며, 이는 프로그램의 예기치 않은 동작이나 심각한 보안 취약점으로 이어질 수 있습니다.

⚠️ OOB의 위험성

공격자가 배열의 범위를 벗어난 주소에 접근해 **민감한 정보(예: 비밀번호, 토큰 등)**를 탈취할 수 있습니다.
악의적인 페이로드를 삽입해 코드 실행으로 이어질 수도 있습니다.

OOB는 **읽기(Read)**와 **쓰기(Write)**로 나눌 수 있으며, 특히 쓰기 OOB는 임의 코드 실행로 이어질 가능성이 높아 매우 위험합니다.

🧨 2. BOF(Buffer Overflow)란?

**BOF(Buffer Overflow)**는 버퍼의 크기보다 더 많은 데이터를 입력하여 인접한 메모리 공간을 침범하는 취약점입니다.

✅ 예시 코드 (C 언어)

char buffer[10];
strcpy(buffer, "This string is too long!");

이 예시에서는 buffer가 10바이트 크기인데, strcpy 함수는 길이 제한 없이 데이터를 복사합니다. 이로 인해 인접 메모리가 덮어써지고, 프로그램 흐름이 손상될 수 있습니다.

⚠️ BOF의 위험성

공격자가 스택을 조작하여 함수 반환 주소를 덮어씌우고 악성 코드를 실행할 수 있습니다.
이는 전통적인 쉘코드 실행 방식의 핵심이며, 과거 많은 악성코드가 이 기법을 사용했습니다.

🔒 왜 중요한가?

이 두 취약점은 단순한 실수처럼 보이지만, 취약한 코드 한 줄이 시스템 전체를 위협할 수 있습니다. 실제로 유명한 해킹 사례들 중 많은 수가 OOB 또는 BOF 취약점을 이용한 것이며, 특히 C/C++과 같은 언어는 메모리 관리를 개발자에게 전적으로 맡기기 때문에 더 주의가 필요합니다.

✅ 방지 방법 요약

취약점	방지 방법
OOB	배열 접근 시 경계 검사(bound checking) 수행
BOF	안전한 함수 사용 (`strncpy`, `snprintf` 등), 스택 보호 기법 적용 (Canary, ASLR 등)