👩‍💻운영체제/컴퓨터구조 캐시메모리

캐시 메모리

왜 캐시 메모리가 필요할까? 

cpu가 메모리에 접근하는 속도는 cpu 연산 속도보다 압도적으로 느리기 때문에,
cpu가 가까이에서 쓸 메모리 공간이 필요하다.. 
따라서 캐시 메모리를 두고 사용한다.

저장 장치 계층 구조 : 계층이 높을 수록 빠르고 용량은 작으며 가격은 비싸다.

🔸 cpu와 가까운 저장 장치의 경우 속도가 빠르고 멀수록 느리다. 
🔸 빠를 수록 작고,비싸다. 
(빠르다 == 데이터에 액세스하거나 작업을 처리하는 데 걸리는 시간이 짧다)



1. 레지스터(Register):

CPU 내부에 위치하며 가장 빠르고 비싼 저장 장치입니다.
몇 개의 비트를 저장하며 연산에 사용됩니다.
프로세서가 직접 액세스할 수 있습니다.

2.캐시(Cache):

CPU와 메모리 사이에 위치하며 속도가 빠릅니다.
레지스터보다는 느리지만 여전히 빠른 편입니다.
주로 CPU가 자주 액세스하는 데이터를 임시로 저장합니다.
더 큰 캐시는 더 많은 데이터를 저장할 수 있지만, 
더 비싸고 느립니다. (SRAMP 기반)

3.메모리(RAM):

주 기억 장치로 CPU나 캐시보다는 느립니다.
프로그램이 실행될 때 데이터와 명령어를 저장합니다.
대부분의 컴퓨터는 DRAM(Dynamic RAM)을 사용하며, 
이는 주기적으로 갱신해야 하므로 더 느립니다.


4.보조 기억 장치(Secondary Storage):

주로 하드 디스크 드라이브(HDD)나 고체 상태 드라이브(SSD)로 구성됩니다.
메모리보다 느리지만, 대용량 데이터를 저장할 수 있습니다.
영구적으로 데이터를 저장하며 전원이 꺼져도 데이터가 보존됩니다.

캐시 메모리는 왜 SRAM을 사용할까?

캐시 메모리를 SRAM(Static Random Access Memory)으로 
사용하는 이유는 주로 다음과 같습니다:

빠른 액세스 속도:
SRAM은 레지스터와 유사한 속도를 제공합니다. 
따라서 CPU가 빠르게 캐시에 접근하여 데이터를 읽거나 쓸 수 있습니다. 
이는 프로세서의 성능을 향상시키고 응용 프로그램의 실행 속도를 향상시킵니다.


낮은 액세스 지연 시간:
SRAM은 디자인이 단순하고 짧은 액세스 지연 시간을 가지고 있습니다. 
이는 CPU가 데이터를 필요로 할 때 캐시로부터 
빠르게 데이터를 가져올 수 있도록 합니다.

라고 하는데, SRAM을 사용해야 빠르게 접근 및 사용가능하기 때문인 것 같다.

계층적 케시 메모리

 L1,L2는 코어 내부에 L3는 코어 외부에 위치 

    멀티코어 프로세서의 캐시 메모리 경우...
    다른 코어의 캐시 메모리에서 업데이트 된 정보를 
    다른 코어의 캐시 메모리는 실시간 동기화 시키지 못해서 발생하는 문제가 있다. 

창조 지역성의 원리

 캐시 메모리에는 cpu가 자주 사용할 법한 내용이 저장되어 있어야
 효율성이 극대화 될 수 있다. 
 

 캐시 히트 = CPU가 캐시 메모리에 저장된 값을 사용
 캐시 미스 = CPU가 캐시 메모리에 저장된 값을 사용하지 않음 
 캐시 적중률 = 캐시 히트 횟수 / (캐시히트횟수 + 캐시미스횟수)


🔸 경향성
1. CPU는 최근에 접근했던 메모리 공간에 다시 접근
2. CPU는 접근한 메모리 공간 근처를 접근

보통 80~90% 창조 지역성의 원리를 바탕으로 커버쳐진다고 한다.