[🍎CS] Cache💰

h-a-n-a·2023년 5월 31일

🍎CS

목록 보기

12/15

Cache

cache란 프랑스어로 '숨기다'라는 뜻을 가진 단어인 cacher에서 파생된 단어로, 물건을 일시적으로 저장, 보관하기 위해 사용함을 의미한다.

프로그래밍에서 말하는 기술적 cache는 자주 필요한 데이터나 값의 복사본을 일시적으로 저장, 보관해놓는 임시 저장소라고 이해하면 되겠다. 캐시는 보통 캐시의 접근 시간에 비해 원래 데이터를 접근하는 시간이 더 오래 걸리는 경우(서버의 균일한 API 데이터) 혹은 반복적으로 동일한 결과를 돌려주는 경우 (특정 이미지나 썸네일 등)에 사용한다.

지역성

캐싱 전략은 웹 서비스 환경에서 시스템 성능 향상을 기대할 수 있는 중요한 기술이다. 일반적으로 캐시는 메모리(RAM)를 사용하기 때문에 데이터베이스보다 훨씬 빠르게 데이터를 응답할 수 있어 이용자에게 빠르게 서비스를 제공할 수 있다. 하지만 기본적으로 RAM의 용량은 커봐야 16~32G 정도라, 데이터를 모두 캐시에 저장해버리면 용량 부족 현상이 일어나 시스템이 다운될 수 있다. 따라서 지역성을 나누어 분류한다.

시간적 지역성

특정 데이터가 한 번 접근되었을 경우 가까운 미래에 또 한 번 데이터에 접근할 가능성이 높은 것을 말한다. 즉, 한 번 가져왔던 데이터를 또 쓸 일이 있다는 뜻이다.

이런 경우 캐시에 한 번 가져와서 저장해놓고 여러 번 사용하게 되면 메모리에 접근하는 횟수가 줄어든다. 따라서 캐시는 반복적으로 사용되는 데이터가 많을수록 높은 효율성을 낼 수 있다.

공간적 지역성

특정 데이터와 가까운 주소가 순서대로 접근되었을 경우 공간적 지역성이라고 한다. CPU 캐시나 디스크 캐시의 경우에는 한 메모리 주소에 접근할 때 그 주소뿐 아니라 해당 블록을 전부 캐시에 가져오게 된다. 이 때 메모리 주소를 오름차순이나 내림차순으로 접근한다면 캐시에 이미 저장된 같은 블록의 데이터를 접근하게 되므로 캐시의 효율성이 크게 향상된다.

다시 말해 앞으로 사용할 데이터들이, 가져올 블록안에 모여있는 것을 말한다. 필요한 데이터가 모여있다면 한 번만 메모리에 접근해도 필요한 데이터들을 모두 가져올 수 있다는 것이다.

만약 데이터가 모여있지 않다면 Cache Miss가 날 확률이 높아지고 메모리에 여러 번 접근하게 되어 효율성이 떨어지게 된다.

*cache hit: 캐시 스토어(redis)에 데이터가 있을 경우 바로 가져옴(빠름)
*cache miss: 캐시 스토어에 데이터가 없을 경우 어쩔 수 없이 DB에서 가져옴(느림)

위와 같은 저장공간 계층구조에서 확인할 수 있듯이, 캐시는 저장 공간이 작고 비용이 비싼 대신 빠른 성능을 제공한다.(괜히 이름이 cash💰인게 아니닷ㅋㅋ)