[OS] Cache Locality

Cache

Processor의 발달로 속도가 빨라지면서, Main Memory에 접근하는 시간도 병목현상으로 작용하기 시작하였다. 이러한 병목현상을 줄이기 위해 CPU 안에 Memory를 추가적으로 만든 것이 Cache 이다.
Processor는 자주 사용하는 데이터를 Cache에 받아오고, 해당 데이터를 필요로 할 때, Cache에 접근하여 병목을 줄여준다.

Cache는 Main Memory에 매우 비싸고, 그로인해 크기가 작기 때문에, 필요로 하는 데이터가 Cache에 없을 수 있다. 필요로 하는 데이터가 Cache에 있는 경우를 Cache Hit , Cache에 없는 경우를 Cache Miss 라고 한다.

Locality

Cache는 Time Locality, Space Locality라는 특성을 갖는다. 아래의 그림을 보면 쉽게 이해할 수 있다.

이러한 특징 때문에, Main Memory에서 Cache로 데이터를 가져올 때, 필요한 데이터 만 가져오는 것이 아니라, 주변 데이터도 같이 가져와 Cache에 올리게 된다.