Memory Hierarchy of GPU

CPU, CPU 캐시와 RAM

1. CPU

• 두뇌 역할을 하며 모든 연산 및 명령 실행 담당
• 연산이나 명령 수행 위해 캐시 또는 RAM 에서 데이터를 가져옴

2. CPU 캐시

• CPU와 가장 가까운 고속 메모리로, 자주 사용되거나 곧 사용할 데이터를 임시 저장함
• 데이터를 RAM에서 직접 가져오는 것보다 빠른 접근 가능
• 그러나 용량이 작아서 자주 사용되는 데이터만 저장
• CPU가 반복적으로 접근하는 데이터를 저장해 처리 속도를 높이는 역할을 함

3. RAM

• 작업 중인 데이터를 임시로 저장하는 주 메모리
• 실행 중인 프로그램과 필요한 데이터를 저장해 CPU가 사용할 수 있도록 함
• 속도는 캐시보다 느리지만 용량이 커서 프로그램 데이터를 저장
• 전원이 꺼지면 데이터가 사라지는 휘발성 메모리이며, 데이터 저장 공간이 크지만 CPU 캐시봗 속도가 느림

✔️ 데이터의 흐름 (CPU ↔ 캐시 ↔ RAM)

• 캐시에 데이터가 있는 경우 : 빠르게 접근해 사용 (캐시 히트)
• 캐시에 데이터가 없는 경우 : RAM에서 데이터를 가져옴 (캐시 미스)
• RAM에서 가져온 데이터는 캐시에 저장해, 다음에 CPU가 같은 데이터를 요청할 때 더 빠르게 접근할 수 있도록 함

※ SRAM이 주로 캐시 메모리로 사용되며, DRAM은 메인 메모리로 사용됨