Cache Memory 란 ?
캐시 메모리(Cache Memory)란 속도가 빠른 장치와 느린 장치에서 속도 차이에 따른 병목 현상을 줄이기 위한 메모리를 말한다.
- CPU 가 주기억장치에서 저장된 데이터를 읽어올 때, 자주 사용하는 데이터를 캐시메모리에 저장한 뒤, 같은 데이터를 재사용할 때 주기억장치가 아닌 캐시메모리에서 가져와 속도를 향상 시킨다.
- 단, 속도가 빠른만큼 용량이 적고 비용이 비싸다(캐시메모리는
SRAM이기 때문) - CPU 에서는 캐시메모리를 2~3개 정도 사용한다.(
L1L2L3캐시 메모리라고 부른다)- 속도와 크기에 따라 분류한 것으로, 주로 L1 캐시부터 사용된다.
듀얼 코어 프로세서의 캐시 메모리
- 각 코어마다 독립된 L1 캐시 메모리를 가지고, 두 코어가 공유하는 L2 캐시 메모리가 내장된다.
- L1 : CPU 내부에 존재
- L2 : CPU 와 RAM 사이에 존재
- L3 : 보통 메인보드에 존재한다고 함
디스크 캐시
- RAM 과 HDD 사이에 존재하는 캐시
- 각 코어마다 독립된 L1 캐시 메모리를 가지고, 두 코어가 공유하는 L2 캐시 메모리가 내장된다.
- 속도와 크기에 따라 분류한 것으로, 주로 L1 캐시부터 사용된다.
- CPU 는 L1 -> L2 -> L3 -> DRAM 순으로 데이터를 찾는다.
Cache Memory 작동 원리
시간 지역성
- for 나 while 같은 반복문에 사용하는 족너 변수처럼 한번 참조된 데이터는 잠시 후 참조될 가능성이 높음.
- 즉, 데이터를 읽기/쓰기를 위해 가까운 시간 내에 해당 메모리가 다시 사용될 가능성이 높은 걸 말합니다
공간 지역성
arr이라는 배열에서A[0]과A[1]과 같은 연속된 데이터에 접근 시, 참조된 데이터 근처에 있는 데이터가 잠시 후 또 사용될 가능성이 높은 것을 말한다.이처럼 캐시에 데이터를 저장할 때는 공간 지역성을 최대한 활용하기 위해 해당 데이터 뿐만 아니라 옆 주소의 데이터도 같이 가져와 미래에 쓰일 것을 대비한다 !!
Cache Hit: CPU 가 요청한 데이터가 캐시메모리에 있을 때Cache Miss: CPU 가 요청한 데이터가 캐시메모리에 없어 DRAM 에서 데이터를 가져올 때
Cache Miss 경우 3가지
Cold miss: 해당 메모리 주소를 처음 불러서 나는 미스Conflict miss: 캐시 메모리에 A 와 B 데이터를 저장해야 하는데, A 와 B 가 같은 캐시 메모리 주소에 할당되어 있어서 나는 미스Capacity miss: 캐시 메모리 공간이 부족해서 나는 미스Conflict 는 주소 할당 문제, Capacity 는 공간
캐시 크기를 키워서 문제를 해결하려하면 캐시 접근속도가 느려지고 파워를 많이 먹는 단점이 생긴다.
구조 및 작동 방식
Direct Mapped Cache(직접 사상 캐시)
- 가장 기본적인 구조로, DRAM 의 여러 주소가 캐시 메모리의 한 주소에 대응되는 다대일(N:1) 방식이다.
- 현재 메모리 공간이 32개(00001 ~ 11101) 이고, 캐시 메모리 공간은 8개(000~111)인 상황이다.
00001,01001,10001,11001은 캐시메모리의001주소에 매핑이 된다.00101,01101,10101,11101은 캐시메모리의101주소에 매핑된다.
- 메인 메모리의 뒤 3자리가 캐시메모리 주소에 매핑이 된다
- 캐시에 들어갈 주소가 정해져 있는 비트를 인덱스 비트(필드) 라 한다.
- 이처럼 캐시메모리는
인덱스필드 + 태그 필드 + 데이터 필드로 구성된다.
Fully Associative Cache
- 비어있는 캐시 메모리가 있으면 마음대로 주소를 저장하는 방식
- 저장은 간단하지만 찾을 때가 문제이다.
- 조건이나 규칙 없이 마음대로 저장했기 때문에 데이터를 찾을려면 모든 블럭을 한번에 찾아가 원하는 데이터가 있는지 검색해야 한다.
Set Associative Cache
Direct + Fully방식이다. 특정 행을 지정하고, 그 행 안의 어떤 열이든 비어있을 때 저장하는 방식이다.- Direct 에 비해 검색 속도는 느리지만, 저장이 빠르고 Fully에 비해 저장이 느린 대신 검색이 빠른 중간형이다.
백엔드개발자