🧠 저장장치 계층 구조와 캐시 메모리 이해하기

1. CPU와 메모리 접근 속도의 차이

CPU는 매우 빠르게 연산하지만,
메모리에 접근하는 속도는 CPU 연산 속도보다 훨씬 느리다.

이로 인해 CPU는 메모리를 기다리느라 쉬는 시간이 발생할 수 있다.
→ 이를 해결하기 위해 저장장치 계층 구조(Storage Hierarchy) 개념이 사용된다.

---

2. 저장장치 계층 구조의 특징

저장장치 계층 구조는 다음 두 가지 원칙에 따라 구성된다.

✔ 1. CPU와 가까울수록 속도가 빠르다

• 레지스터 > 캐시 메모리 > RAM > SSD/HDD > USB 메모리

✔ 2. 속도가 빠를수록 용량이 작고 가격이 비싸다

• 레지스터: 매우 빠르지만 매우 작음
• RAM: 비교적 빠르고 중간 정도 크기
• SSD/HDD/USB: 용량 크지만 속도가 느림

✔ 결론

• 저렴한 대용량 저장장치를 원한다면 느린 속도는 감수해야 한다.

---

3. 레지스터 vs 메모리 vs USB 메모리

저장장치	속도	CPU와의 거리	용량	가격
레지스터	매우 빠름	가장 가까움	매우 작음	매우 비쌈
메모리(RAM)	빠름	중간	중간	중간
USB/SSD/HDD	느림	매우 멀다	매우 큼	저렴

---

4. 캐시 메모리(Cache Memory)

CPU와 메모리 사이의 속도 차이를 줄이기 위해 만들어진 저장장치.

✔ 캐시 메모리의 특징

• CPU와 메모리 사이에 위치
• SRAM 기반 → DRAM보다 빠름
• 용량은 RAM보다 작지만 레지스터보다는 큼
• CPU가 사용할 일부 데이터를 미리 가져와 저장

✔ 캐시가 존재하는 이유

• CPU 연산 속도 > 메모리 접근 속도
  → CPU가 메모리만 기다리면 전체 시스템 성능이 떨어짐
  → CPU가 자주 사용할 데이터를 미리 캐시에 로드하여 속도 차이를 완화

---

5. 저장장치 계층 구조 (캐시 포함)

아래와 같은 구조로 가까울수록 빠르고, 멀수록 느리고 용량 큼:

CPU
└── 레지스터 (가장 빠름)
└── L1 캐시
└── L2 캐시
└── L3 캐시
└── 메모리(RAM)
└── SSD/HDD
└── USB/보조저장장치 (가장 느림)

---

6. 캐시 메모리의 계층 구조 (L1, L2, L3)

✔ L1 Cache

• 가장 빠른 캐시
• 용량이 가장 작음
• CPU 코어 내부에 존재

✔ L2 Cache

• L1보다 느리지만 용량 큼
• CPU 내부 또는 바로 옆에 존재

✔ L3 Cache

• 여러 코어가 공유하는 캐시
• 용량이 가장 크고 속도는 가장 느림(캐시 중에서는)

---

7. 참조 지역성의 원리(Locality of Reference)

캐시는 메모리의 전체 내용을 저장할 수 없다.
→ 그래서 “CPU가 자주 사용할 것 같은 데이터”만 저장해야 한다.

그 예측의 원리가 참조 지역성(Locality) 이다.

✔ 1. 시간 지역성(Temporal Locality)

• 최근에 접근한 메모리 공간을 다시 접근하려는 경향
• 예: 반복문에서 i 변수 계속 사용

✔ 2. 공간 지역성(Spatial Locality)

• 접근한 메모리 주변을 계속 접근하려는 경향
• 예: 배열을 순차적으로 접근

✔ 캐시 히트(Cache Hit)

• 캐시에 저장된 데이터를 CPU가 다시 사용하면 캐시 히트
• 적중률(Hit Rate)이 높을수록 성능 향상

---

8. 요약

• CPU는 매우 빠르지만 메모리는 상대적으로 느림 → "속도 차이를 해결하기 위해" 캐시 등장
• 저장장치는 CPU와의 거리, 속도, 용량, 가격 관계가 존재
• 캐시는 SRAM 기반으로 빠르며 CPU와 메모리 사이에 위치
• L1, L2, L3 캐시로 나뉘며 CPU 성능에 큰 영향
• 캐시는 참조 지역성 원리(시간·공간)에 기반하여 저장 데이터 결정
• 캐시 적중률이 높을수록 전체 시스템 성능이 좋아짐