최대한 cpu를 많이 활용하도록 하는 시스템으로 시간 대비 CPU 활용도를 높이고자 하는 요구사항에서 비롯되었다. 응용 프로그램은 온전히 CPU를 사용하기 보다 도중에 다른 작업을 필요로 하는 경우가 많아 그 사이 CPU가 쉬는 타이밍이 발생한다.
메모리 계층은 다음과 같으며 CPU에서 멀어질 수록 접근 시간이 기하 급수적으로 늘어나는 것을 알 수 있다.
컴퓨터 구조 상 CPU는 메모리나 저장 매체 등에 직접 접근하지 않고 DMA를 통해 요청을 하여 데이터를 전달하고 전달 받는다.
실제로는 시분할 시스템, 멀티 프로그래밍, 멀티 태스킹이 유사한 의미로 통용