: 속도가 빠른 장치와 느린 장치 사이에서 속도 차이에 따른 병목 현상 줄이기 위한 메모리
ex1) CPU코어 - 메모리 병목 현상 완화
ex2) 웹 브라우저 캐시 파일은 하드디스크 - 웹 페이지 병목 현상 완화
- CPU가 주기억장치에 저장된 데이터를 읽을 때, 자주 사용하는 데이터를 캐시 메모리에 저장, 다음에 이용할 때 주기억장치가 아닌 캐시 메모리에서 먼저 가져오면서 속도 향상
- 장점 : 속도 / 단점 : 용량 적음, 비쌈 → 캐시 메모리 크기가 작은 이유는, SRAM 가격이 매우 비쌈
- CPU 에는 캐시 메모리 3개(L1, L2, L3)
- 속도와 크기에 따라 분류, L1캐시부터 사용(CPU에서 가장 빠르게 접근, 여기서 못 찾으면 L2로 넘어감)
- L1 : CPU 내부에 존재
- L2 : CPU와 RAM 사이에 존재
- L3 : 보통 메인보드에 존재한다고 함
- 디스크 캐시 : 주기억장치(RAM)과 보조기억장치(하드디스크) 사이에 존재
- 듀얼 코어 프로세서의 캐시 메모리 : 각 코어마다 독립된 L1 캐시 메모리, 공유하는 L2 캐시 메모리
캐시 메모리 작동 원리
시간 지역성
: for, while 같은 반복문의 사용하는 조건 변수처럼 한 번 참조된 데이터는 또 참조될 가능성이 높음
공간 지역성
: A[0], A[1]과 같은 연속 접근 시, 참조된 데이터 근처에 있는 데이터가 또 참조될 가능성이 높음
→ 참조 지역성의 원리가 존재
→ 캐시에 데이터를 저장할 때는, 참조 지역성(공간)을 최대한 활용하기 위해 해당 데이터뿐만 아니라 옆 주소의 데이터도 같이 가져와 미래에 쓰일 것을 대비
CPU가 요청한 데이터가 캐시에 있으면 ‘Cache Hit’, 없어서 DRAM에서 가져오면 ‘Cache Miss’
캐시 미스 경우 3가지
Cold Miss
: 해당 메모리 주소를 처음 불러서 나는 미스
Conflict Miss (주소 할당 문제)
: 캐시 메모리에 A와 B를 저장해야 하는데 A와 B가 같은 캐시 메모리 주소에 할당되어 있어서 나는 미스 (direct mapped cache에서 많이 발생)
→ ex) 항상 핸드폰과 열쇠를 오른쪽 주머니에 넣고 다니는데, 잠깐 친구가 준 물건을 받느라 손에 들고 있던 핸드폰을 가방에 넣었음. 그 후 핸드폰을 찾으려 오른쪽 주머니에서 찾는데 없는 상황
Capacity Miss (공간 문제)
: 캐시 메모리에 공간이 부족해서 나는 미스
⇒ 캐시 크기를 키워서 미스를 해결하면, 캐시 접근 속도가 느려지고 파워를 많이 먹는 단점 생김
구조 및 작동 방식
Direct Mapped Cache
- 가장 기본적인 구조로, 여러 주소가 캐시 메모리의 한 주소에 대응되는 다대일 방식 → 위 예시에서는 메모리 공간이 32개(00000~11111)이고, 캐시 공간은 8개(000~111) → 00000, 01000, 10000, 11000 은 000 캐시에 맵핑 → 이때 000은 ‘인덱스 필드’, 나머지(00, 01, 10, 11)는 ‘태그 필드’
- 캐시 메모리는 인덱스 필드 + 태그 필드 + 데이터 필드 로 구성
- 간단하고 빠르지만, Conflict Miss 발생, 같은 색의 데이터를 동시에 사용해야 할 때 발생
Fully Associative Cache
- 비어있는 캐시 메모리가 있으면 마음대로 주소를 저장하는 방식
- 저장할 때는 매우 간단하지만, 찾을 때가 문제
- 조건이나 규칙이 없어서 특정 캐시 Set 안에 있는 모든 블럭을 한 번에 찾아 원하는 데이터가 있는지 검색해야 함. CAM이라는 특수 메모리 구조 사용 but 매우 비쌈
Set Associative Cache
- Direct + Fully 방식
- 특정 행을 지정하고, 그 행 안에 어떤 열이든 비어있을 때 저장하는 방식
- Direct에 비해 검색 속도는 느리지만, 저장이 빠르고 Fully에 비해 저장이 느린 대신 검색 빠름
