캐시 메모리

캐시 메모리란?

• 속도가 빠른 장치와 느린 장치 사이의 속도 차이에 따른 병목 현상을 줄이기 위한 메모리

• CPU가 주기억장치에 저장된 데이터를 읽어올 때, 자주 사용하는 데이터를 캐시 메모리에 대신 저장하면 다음에 이용할 때 주기억장치가 아닌 캐시 메모리에서 먼저 가져오면서 속도를 향상시킬 수 있다

• 속도가 빠르다는 장점이 있지만, 용량이 작고 비싸다는 단점이 있다

• CPU는 이런 캐시메모리를 속도와 크기에 따라 2~3개 정도 가지고 있으며(L1,L2,L3 캐시메모리라고 부른다), CPU는 먼저 L1 캐시에 접근한 뒤, 데이터를 찾지 못하면 L2 캐시에 접근한다

  • L1 : CPU 내부에 존재
  • L2 : CPU와 주기억장치(RAM) 사이에 존재
  • L3 : 메인보드에 존재
  • 디스크캐시 : 주기억장치(RAM)와 보조기억장치(하드디스크) 사이에 존재

  
  
  

캐시 메모리 작동 원리

• 캐시에 데이터를 저장할 때는 공간 지역성을 최대한 활용하기 위해, 해당 데이터와 옆 주소의 데이터도 같이 가져와 미래에 쓰일 것을 대비한다

  	> 공간 지역성 : 참조된 데이터 근처에 있는 데이터가 잠시 후 또 사용될 가능성이 높다

  
  
  

캐시 미스의 3경우

1. Cold miss : 해당 메모리 주소를 처음 불러서 나는 미스

2. Conflict miss : 캐시 메모리에 A와 B의 데이터를 저장해야 하는데, A와 B가 같은 캐시 메모리 주소에 할당되어 있어 나는 미스

3. Capacity miss : 캐시 메모리의 공간이 부족해 나는 미스

   
   
   

구조 및 작동 방식

• Direct Mapped Cache
  • 가장 기본적인 방식으로 DRAM의 여러 주소가 캐시 메모리의 한 주소에 대응되는 다대일 방식
  • 간단하고 빠르지만, Conflict Miss가 발생할 수 있다
• Fully Associative Cache
  • 비어있는 캐시 메모리가 있으면, 마음대로 주소를 저장하는 방식
  • 저장은 매우 간단하나, 데이터를 찾는 것이 복잡
  • 조건이나 규칙이 없어 특정 캐시 set안에 있는 모든 블럭을 탐색해 원하는 데이터가 있는지 검색한다
• Set Associatie Cache
  • 앞의 두 방식을 합친 방식
  • 특정 행을 지정하고, 그 행안의 어떤 열이든 비어 있을 때 저장하는 방식
  • Direct에 비해 검색 속도는 느리지만 저장 속도는 빠르고, Fully에 비해 저장은 느리지만 검색이 빠르다