캐시란 무엇일까?

캐시(cache)는 빠른 속도의 작은 저장 공간으로, 자주 사용되는 데이터를 임시로 저장하여 CPU와 메모리 간 속도 차이를 줄이는 역할을 한다.
즉, 느린 저장장치(메인 메모리, 디스크)에서 자주 사용되는 데이터를 미리 저장하여 성능을 향상시키는 장치라고 보면 된다.

🎯 비유:

• 캐시는 자주 가는 카페의 단골 고객처럼 미리 준비된 데이터!
• 주문할 때마다 재료를 조달하는 것이 아니라, 미리 준비된 재료를 활용하면 훨씬 빠르게 서비스가 제공되는 것과 같은 원리.

캐시가 중요한 이유

컴퓨터 시스템에서는 데이터 이동 속도가 전체 성능을 결정.
CPU는 초당 수십억 개의 연산을 수행할 수 있지만, 메인 메모리(RAM)에서 데이터를 가져오는 속도는 상대적으로 느리다.

캐시 메모리의 구조

캐시는 CPU와 메인 메모리 사이에서 다단계 계층(L1, L2, L3) 구조로 동작한다.

🔹 L1 캐시 (Level 1 Cache)

• CPU 내부에 존재하며, 가장 빠른 캐시
• 크기: 몇 백 KB 정도 (작음)
• CPU 명령어와 데이터를 저장
• 속도: 거의 레지스터 수준으로 빠름

🔹 L2 캐시 (Level 2 Cache)

• L1보다 크고, 약간 더 느림 (메가바이트 단위)
• CPU 내부 또는 칩 근처에 위치
• L1 캐시에 데이터가 없으면 L2 캐시에서 검색

🔹 L3 캐시 (Level 3 Cache)

• L2보다 더 큰 저장 공간 (수십 MB)
• CPU와 메모리 사이에 위치
• L1, L2 캐시에 없는 데이터를 보관하여 CPU의 대기 시간을 줄임

📌 캐시 계층 구조 덕분에, CPU는 메인 메모리에 접근하는 시간을 크게 줄이고 프로그램 성능을 향상시킬 수 있다!

책을 보면 SRAM이라는 용어가 나온다.

SRAM이란?

SRAM (Static Random Access Memory)은 전원이 공급되는 동안 데이터를 유지하는 메모리.
CPU 내부의 L1, L2 캐시 메모리는 빠른 속도를 요구하므로 SRAM을 사용하여 성능을 높인다.

📌 SRAM의 특징:

• 고속: DRAM보다 훨씬 빠름 (CPU 속도에 맞춰 동작 가능)
• 소비 전력 적음: DRAM처럼 지속적인 전력 공급이 필요 X
• 비휘발성 아님: 전원이 꺼지면 데이터가 사라짐
• 구조가 복잡하고 가격이 비쌈 → 용량이 작음 (L1, L2 캐시에 사용)

L1, L2 캐시에서 SRAM을 사용하는 이유

• L1, L2 캐시는 CPU와 매우 가까운 위치에 있어야 하며, 데이터 접근 속도가 빨라야 함
• SRAM은 빠른 속도와 낮은 지연 시간 덕분에 캐시로 사용하기 적합
• 하지만 가격이 비싸고 크기가 크므로, 적은 용량만 사용 (L1: 수백 KB, L2: 수 MB)