Cache Memory는 메인 메모리와 CPU간의 데이터 속도 향상을 위한 중간 버퍼 역할을 하는 CPU내 또는 외에 존재하는 메모리다.
저장 장치들은 CPU에 얼마나 가까운가를 기준으로 계층적으로 나타낼 수 있다.
L1 ~ L3 캐시는 레지스터와 주기억장치 사이에 존재한다.
CPU의 연산 속도와 메모리 접근 속도의 차이를 조금이나마 줄이기 위해 탄생했다.
CPU가 매번 메모리에 왔다 갔다 하는 건 시간이 오래 걸리니, 메모리에서 CPU가 사용할 일부 데이터를 미리 캐시 메모리에 저장했다가 사용한다.
캐시 메모리는 계층적으로 구성할 수 있고
L1 캐시와 L2캐시는 코어 내부에, L3 캐시는 코어 외부에 위치해 있다.
참조 지역성의 원리
CPU가 메모리에 접근할 때의 주된 경향을 바탕으로 만들어진 원리
캐시 히트 / 미스
캐시 메모리는 메모리보다 용량이 작은데, 메모리에 모든 내용을 저장할 수 없다.
그렇기에 CPU가 자주 사용할 법한 내용을 예측하여 저장, 예측이 들어맞을 경우 캐시 히트라고 표현한다. 예측이 틀렸을 경우 캐시 미스라고 한다. 이 경우 CPU가 메모리에 접근해야 한다.