캐시 메모리 요약 및 정리
1. 캐시 메모리란?
- CPU와 메모리(RAM) 사이에 위치한 고속 저장장치.
- RAM보다 빠르고, 용량은 작지만, CPU 연산 속도를 보완.
- SRAM(Static RAM) 기반으로 설계됨 → 속도가 빠름.
2. 저장 장치 계층 구조 (Memory Hierarchy)
(1) 저장 장치 계층 구조의 원리
- CPU와 가까울수록 속도는 빠름, 용량은 작고 가격은 비쌈.
- 멀수록 속도는 느리지만, 용량이 크고 가격이 저렴.
(2) 저장 장치 계층 구조 예시
| 저장장치 | 속도 | 용량 | 가격 |
|---|---|---|---|
| 레지스터(Register) | 매우 빠름 | 매우 작음 | 매우 비쌈 |
| 캐시(Cache) | 빠름 | 작음 | 비쌈 |
| RAM(메모리) | 보통 | 중간 | 중간 |
| 보조기억장치 (SSD, HDD) | 느림 | 큼 | 저렴 |
| 외부 저장장치(USB, 클라우드) | 매우 느림 | 매우 큼 | 매우 저렴 |
3. 캐시 메모리의 역할
- CPU의 연산 속도 > RAM 접근 속도 → 속도 차이로 인한 성능 저하 발생.
- 캐시 메모리가 CPU와 RAM 사이에서 속도 차이를 완화.
- CPU가 자주 사용하는 데이터를 미리 저장하여 성능 향상.
4. 캐시 메모리의 동작 원리
(1) 캐시 적중 (Cache Hit)
- CPU가 필요한 데이터가 캐시 메모리에 존재하면 빠르게 접근 가능.
- RAM에 접근할 필요가 없음 → 속도 향상.
(2) 캐시 미스 (Cache Miss)
- CPU가 필요한 데이터가 캐시 메모리에 없으면 RAM에서 데이터를 가져옴.
- RAM에서 데이터를 가져오는 동안 CPU는 기다려야 함 → 속도 저하.
(3) 캐시 적중률 (Cache Hit Rate)
- 캐시 적중률 = (캐시 히트 횟수) / (전체 데이터 요청 횟수) × 100%
- 높을수록 성능이 좋아짐 (일반적으로 80~90% 이상).
5. 캐시 메모리 계층 구조 (L1, L2, L3 Cache)
| 캐시 종류 | 위치 | 용량 | 속도 |
|---|---|---|---|
| L1 캐시 | CPU 내부 | 가장 작음 (32KB~128KB) | 가장 빠름 |
| L2 캐시 | CPU 내부/외부 | 중간 (256KB~8MB) | 중간 |
| L3 캐시 | CPU 외부 | 가장 큼 (4MB~64MB) | 느림 |
- L1 캐시: 가장 빠름, 하지만 용량이 작음.
- L2 캐시: L1보다 용량 큼, 속도는 약간 느림.
- L3 캐시: 여러 CPU 코어가 공유, 용량 큼, 속도는 가장 느림 (하지만 RAM보다 빠름).
6. 캐시 메모리와 참조 지역성의 원리
(1) 참조 지역성이란?
- CPU가 데이터를 접근할 때 특정 패턴을 보이는 경향.
- 이 원리를 기반으로 캐시 메모리는 CPU가 자주 사용할 데이터 저장.
(2) 참조 지역성의 두 가지 원칙
| 지역성 유형 | 설명 | 예시 |
|---|---|---|
| 시간 지역성 (Temporal Locality) | 최근 사용한 데이터는 다시 사용할 확률이 높음 | 반복문에서 같은 변수를 여러 번 사용 |
| 공간 지역성 (Spatial Locality) | 접근한 데이터의 근처 데이터도 접근할 가능성이 높음 | 배열의 연속된 데이터 접근 |
(3) 캐시 메모리의 활용
- 시간 지역성 활용: 최근 사용한 데이터를 캐시에 유지.
- 공간 지역성 활용: 데이터 로드 시 주변 데이터까지 함께 캐시에 저장.
7. 멀티코어 프로세서와 캐시 메모리
- 각 CPU 코어마다 독립적인 L1, L2 캐시 보유.
- L3 캐시는 여러 코어가 공유하여 데이터 일관성을 유지.
- 캐시 동기화(Coherency) 기법 사용 → 데이터 불일치 방지.
8. 캐시 메모리의 분리형 구조 (분리형 vs 통합형)
(1) 분리형 캐시 (Split Cache)
- L1 캐시를 명령어 캐시(L1I)와 데이터 캐시(L1D)로 분리.
- CPU의 명령어와 데이터를 따로 저장하여 성능 향상.
(2) 통합형 캐시 (Unified Cache)
- 명령어와 데이터를 함께 저장.
- 설계가 단순하지만 속도 최적화가 어려움.
9. 결론
- 캐시 메모리는 CPU와 메모리(RAM) 사이에서 속도 차이를 완화.
- CPU가 자주 사용하는 데이터를 미리 저장하여 성능을 향상.
- 참조 지역성 원리를 활용하여 캐시 적중률을 높임.
- L1, L2, L3 캐시로 계층적으로 구성되어 있음.
- 캐시 히트율이 높을수록 성능이 향상됨.
이제 캐시 메모리의 역할과 동작 원리를 확실히 이해할 수 있을 거예요! 🚀
Hello world