캐시 메모리에 대한 이해

캐시 메모리란?

• 캐시 메모리(Cache Memory) 는 CPU와 메인 메모리(RAM) 사이에서 데이터를 빠르게 저장하고 제공하는 초고속 메모리이다.
• CPU가 자주 사용하는 데이터를 미리 저장하여 빠르게 접근할 수 있도록 함으로써 시스템 성능을 최적화하는 역할을 한다.

캐시 메모리의 필요성

데이터 접근 시간 단축

• 캐시에 저장된 데이터는 RAM보다 훨씬 빠르게 접근 가능.
• 자주 사용하는 데이터를 캐시에 저장하면, 메모리에 접근하는 시간을 줄여 프로그램 실행 속도를 향상시킬 수 있음.

CPU와 RAM의 속도 차이 해소

• CPU는 매우 빠르게 연산을 수행하지만, RAM은 상대적으로 속도가 느림.
• CPU가 메모리에서 데이터를 가져오는 시간이 오래 걸리면 성능 저하가 발생함.
• 캐시 메모리는 RAM보다 훨씬 빠른 속도를 제공하여 CPU가 더 빠르게 데이터를 가져올 수 있도록 도와줌.

캐시 메모리 계층 구조

왜 이렇게 되어 있을까?

• 캐시 메모리는 계층적 구조를 가지며, 각 단계에서 더 큰 범위를 캐싱함으로써 데이터 접근 속도를 최적화한다.
• L1 → L2 → L3 순으로 더 큰 데이터 집합을 저장하는 역할을 한다.

👉 L1 캐시는 가장 빠르지만, 용량이 작다.
👉 L2 캐시는 L1에 없는 데이터를 저장하며, L3는 L2에 없는 데이터를 저장한다.
👉 L1 캐시에 없으면 L2 캐시에서 데이터를 찾고, L2에도 없으면 L3 캐시에서 찾는다.
👉 L3 캐시에도 없으면 RAM에서 데이터를 가져온다.

동작 과정

1️⃣ CPU는 가장 먼저 L1 캐시에서 데이터를 찾는다.

만약 L1 캐시에 데이터가 있다면 (캐시 히트) → 즉시 사용 가능
만약 L1에 없다면 (캐시 미스) → L2 캐시를 확인

2️⃣ L2 캐시에서 데이터 확인

L2 캐시는 L1 캐시가 자주 사용할 데이터를 저장하는 공간
L1에 없는 데이터가 L2에 있으면 L1 캐시에 데이터를 로드한 후 사용
L2에도 없으면 L3 캐시에서 확인

3️⃣ L3 캐시와 RAM 확인

L3 캐시는 여러 개의 CPU 코어가 공유하며, L2에도 없는 데이터를 저장
L3에서도 찾을 수 없으면 RAM에서 데이터를 가져와 캐시에 저장

메모리 계층 구조

일반적으로 빠를수록 용량이 작고 비싸며, 느릴수록 용량이 크고 저렴하다.

┌────────────────────────────────────┐
│         🏎️ CPU 레지스터 (Registers)      │  (최고속도, 극소량)  
└────────────────────────────────────┘
        ⬆   초고속, 용량 작음
        ⬇   낮은 속도, 용량 큼
┌────────────────────────────────────┐
│         🚀 L1 캐시 (L1 Cache)        │  (매우 빠름, 매우 적음)  
└────────────────────────────────────┘
┌────────────────────────────────────┐
│         🚀 L2 캐시 (L2 Cache)        │  (빠름, 적음)  
└────────────────────────────────────┘
┌────────────────────────────────────┐
│         🚀 L3 캐시 (L3 Cache)        │  (빠름, 크기 큼)  
└────────────────────────────────────┘
┌────────────────────────────────────┐
│        💾 RAM (주 메모리)           │  (보통 속도, 크기 큼)  
└────────────────────────────────────┘
┌────────────────────────────────────┐
│        🖴 SSD / HDD (보조 저장 장치) │  (느림, 매우 큼)  
└────────────────────────────────────┘
┌────────────────────────────────────┐
│        ☁️ 클라우드 스토리지 (Cloud)  │  (가장 느림, 무제한)  
└────────────────────────────────────┘

• 레지스터 > L1 캐시 > L2 캐시 > L3 캐시 > RAM > SSD/HDD > 클라우드
• CPU가 데이터를 가져올 때 L1 → L2 → L3 → RAM → SSD/HDD 순서로 탐색
• 자주 사용하는 데이터를 캐시에 저장하여 속도를 높임 (캐시 히트)