캐시 메모리
속도가 빠른 장치와 느린 장치에서 속도차이에 따른 병목현상을 줄이기 위한 메모리
ex1) CPU 코어와 메모리 사이의 병목 현상 완화
ex2) 웹 브라우저 캐시 파일은, 하드디스크와 웹페이지 사이의 병목 현상을 완화CPU가 메모리(주기억장치)에 저장된 데이터를 읽어올 때, 자주 사용하는 데이터를 캐시 메모리에 저장한 뒤, 다음에 이용할 때, 메모리가 아닌 캐시 메모리에서 먼저 가져오면서 속도를 향상시킨다.
- 캐시 메모리의 장단점: 속도가 빨라지는 장점이 있지만, 캐시메모리는 용량이 작고 비용이 비싸다는 단점이 있다. (용량이 작은 이유는 SRAM의 가격이 매우 비싸기 때문)
CPU에는 이러한 캐시 메모리가 2~3개 정도 사용되며 각각을 L1, L2, L3캐시 메모리라고 부른다.
속도와 크기에 따라 분류한 것으로 일반적으로 L1 캐시부터 사용된다. L1캐시를 CPU에서 가장 빠르게 접근하고, 여기서 데이터를 찾지 못하면 다음 캐시인 L2로 간다.
- 듀얼코어 프로세서의 캐시 메모리 : 각 코어마다 독립된 L1 캐시를 가지고 두 코어가 공유하는 L2 캐시가 내장됨. L1 캐시의 용량을 반으로 나누어 반쪽엔 명령어를 처리하기 직전의 명령어를 임시저장하고 나머지 반에 실행 후 명령어를 임시저장한다. (명령어 세트로 구성, I-Cache, D-Cache)
캐시의 종류
- L1: CPU 내부에 존재
- L2: CPU와 RAM 사이에 존제
- L3: 보통 메인보드에 존재
- 디스크 캐시 : 주기억장치(RAM)와 보조기억장치(하드디스크) 사이에 존재하는 캐시
캐시 메모리 작동 원리
캐시에 데이터를 저장할 떄는, 참조지역성(공간)을 최대한 활용하기 위해 해당 데이터 뿐만 아니라, 옆 주소의 데이터도 같이 가져와 미래에 쓰일 것을 대비한다.
<참조 지역성>
- 시간 지역성 : 반복문에 사용하는 조건 변수처럼 한번 참조된 데이터는 잠시후 또 참조될 가능성이 높다.
- 공간 지역성 : A[0], A[1] 처럼 연속 접근시, 참조된 데이터 근처에 있는 데이터가 잠시 후 또 참조 될 가능성이 높다.
CPU가 요청한 데이터가 캐시에 있으면 Cache Hit, 없어서 DRAM에서 가져오면 Cache Miss
캐시 미스 3가지
- Cold Miss : 해당 메모리 주소를 처음 불러서 나는 미스
- Conflict Miss(주소할당문제) : 캐시 메모리에 A데이터, B데이터를 저장해야하는데 A, B가 같은 메모리 주소에 할당되어 있어서 나는 미스 (direct mapped cache에서 많이 발생)
- ex) 항상 폰을 주머니에 들고 다니는데 친구가 준 물건을 받느라 폰을 가방안에 넣음. 그리고 전화를 걸려고 폰을 주머니에서 찾는데 없는 상황.
- Capacity Miss(공간문제) : 캐시 메모리의 공간이 부족해서 나는 미스
=> 캐시 크기를 키워서 문제를 해결하려면, 캐시 접근 속도가 느려지고 파워를 많이 먹는다는 단점이 생김.
구조 및 작동 방식
- Direct Mapped Cache
가장 기본적인 구조로, DRAM의 여러 주소가 캐시 메모리의 한 주소에 대응되는 다대일 방식
예를들어 메모리 공간이 32개(00000 ~ 11111)이고 캐시 메모리 공간이 8개라면(000 ~ 111)
00000, 01000, 10000, 11000인 메모리 주소는 000캐시메모리에 매핑
이때, 000이 '인덱스 필드', 인덱스를 제외한 앞의 나머지(00,01, 10, 11)를 '테그 필드'라고 한다.
캐시 메모리는 인덱스필드 + 태그필드 + 데이터필드로 구성된다.
장점: 간단하고 빠르다
단점: Conflict miss가 발생한다. (같은 인덱스 필드의 값을 두개 저장해야하는 경우)
- Fully Associative Cache
비어있는 캐시 메모리가 있으면, 마음대로 주소를 저장하는 방식
장점: 저장할때는 매우 간단함
단점: 찾을 때! 조건이나 규칙이 없어서 특정 캐시 set안에 있는 모든 블럭을 한번에 찾아 원하는 데이터가 있는지 검색해야한다. CAM이라는 특수한 메모리 구조를 사용해야 하지만 가격이 매우 비싸다! - Set Associative Cache
Direct + fully 방식이다. 특정 행을 지정하고, 그 행안의 어떤 열이든 비어있을때 저장하는 방식. Direct에 비해 검색 속도는 느리지만 저장이 빠르고, Fully에 비해 저장이 느리지만 검색이 빠른 중간형이다!
참고 자료
