자주 쓰는 데이터는 메모리 말고 더 가까운데에 놔두자
물론 비싸니까 조금만
🎈 캐시 메모리
CPU는 메모리에 빈번히 접근해야 하는데, CPU 는 속도가 빨라서 메모리가 따라오지 못한다.
따라서 캐시 메모리 라는 장치를 두고 일부 데이터를 캐시 메모리에 가져와서 활용한다.
🔰 캐시 메모리 계층
캐시 메모리들은 코어와 가까운 순으로 L1, L2, L3 캐시로 나뉜다.
CPU는 필요한 데이터를 L1 -> L2 -> L3 순서로 찾는다
🎈 참조 지역성 원리
메모리에서 일부만 뽑아서 캐시 메모리에 저장해야 하는데, 어떤 기준으로 뽑아야 할까?
바로 참조 지역성의 원리에 따라 가져올 데이터를 결정한다.
참조 지역성 원리
최근에 접근했던 위치에 다시 접근하려는 경향 (시간 지역성)
접근했던 위치 근처를 접근하려는 경향 (공간 지역성)
이런 원리에 따라 필요한 데이터를 예상해서 캐시 메모리에 가져오는데, 실제로 사용을 하려고 보니 예상이 적중했을 수도 있지만, 아닐 수도 있다. 예상이 적중했을 경우, 즉 사용하려는 데이터가 캐시 메모리에 있는 경우를 캐시 히트 라고 하고, 사용하려는 데이터가 캐시 메모리에 없는 경우를 캐시 미스 라고 한다. 캐시 미스가 발생하면 메모리에 직접 가서 가져와야 하므로 시간이 걸리고 성능은 낮아진다. 캐시 적중률이 높을 수록 성능이 개선된다.
캐시 적중률 = 캐시 히트 / (캐시 히트 + 캐시 미스)