디코딩 속도
CPU가 빠르게 데이터에 접근하기 위해서는 저장하는 메모리가 작아야 하며, 레지스터는 캐시보다 더 적은 용량을 가진다. (레지스터 < 캐시 < 메모리 < 하드 디스크 )
자주 쓰는 데이터는 자주 쓰인다
큰 메모리를 사용한다고 해도 그 안의 모든 데이터를 고르게 접근하지 않기에 자주쓰는 데이터는 계속 자주 쓰이고, 자주 쓰지 않은 것은 자주 쓰지 않는 다는 법칙이 있다.
자주 쓰일 것 같은 데이터는 메모리에서 캐시로 읽어 들이며 캐시는 메모리보다 작아도 되는 이유는 자주 쓰는 데이터양이 전체 데이터 양보다 작은 양이기 때문이다.
경제성
메모리 구조에서 상층으로 갈 수록 비싸다.
메모리 구조가 피라미드 구조를 띄는 이유는 비싼 하드웨어는 필요한 만큼의 크기만 사용하고, 싼 하드웨어를 넉넉한 크김만큼 사용하기 때문이다.

https://ko.wikipedia.org/wiki/%EB%A9%94%EB%AA%A8%EB%A6%AC_%EA%B3%84%EC%B8%B5_%EA%B5%AC%EC%A1%B0
https://namu.wiki/w/%EB%A9%94%EB%AA%A8%EB%A6%AC%20%EA%B3%84%EC%B8%B5%20%EA%B5%AC%EC%A1%B0