OS - Register & Memory

서론

CS에서 중요하게 보는 요소중 하나인 운영체제에 대해서 다뤄보고자 한다. 사실 코딩을 하는 경우에 운영체제의 구조와 동작까지는 굳이 알 필요 없다고 생각하고 코딩을 하는 사람이 많다. 하지만 진짜로 성능을 생각하고 큰 프로젝트를 한다고 하면, 각 아키텍쳐에 맞게 프로그램을 작성하는 것이 매우 경쟁력이 있다. 그리고 운영체제에 대해 공부하다보면 내가 컴공에 왔구나... 라는 생각이 든다. 컴공에서 마냥 코딩만 했으면 전공의 전문성이 느껴지지 않았을 것 같다.

💡Operation System(OS)?

운영체제는 컴퓨터가 원할하게 작동하도록 도와주는 소프트웨어 계층.

• 사용자가 쉽게 컴퓨터를 사용할 수 있도록 함.(UI)
• 프로그램이 하드웨어 자원을 사용할 수 있도록 지원(메모리, CPU, 디스크)
• 소프트웨어 개발자가 쉽게 프로그램을 만들도록 API 제공

폰 노이만(Von Neumann Machine)

현대 컴퓨터의 기본 구조, 프로그램과 데이터를 모두 메모리에 저장한다.

• Stored-program architecture 이라고 한다.(프로그램과 데이터를 메모리에 저장)
• 프로그램만 다시 바꿔서 쉽게 재프로그램이 가능하다.(현대의 컴퓨터, 스마트폰 처럼)

• 메모리가 데이터와 프로그램을 둘 다 저장한다.
• BUS는 데이터와 명령어를 이동시키는 통로다.

Register

register은 CPU내부에 있는 아주 작고 빠른 저장공간이다.

• PC (program counter) : 다음 명령어의 주소를 저장
• IR (instruction Register): 현재 실행중인 명령어의 주소를 저장
• PSW (Program Status Word): 현제 프로세스의 상태(결과, 오류, 조건등)
  
  
• MBR (Memory Buffer Register): 데이터 이동을 위한 버퍼, 메모리 접근 충돌 방지
• MAR (Memoty Adress Register): 메모리 접근 시 사용할 주소를 저장한다.

자 이렇게만 보면 이해가 잘 안될 수 있다. 그러면 쉽게 요리로 한번 예시들 들어보겠다.

• CPU = 요리사
• RAM = 냉장고
• Register = 요리사가 들고있는 쟁반
  +) 레지스터는 CPU 내부의 임시 저장공간임.

☝️냉장고에 있는 재료를 꺼내오기

• MAR = 냉장고 몇번째 칸에 재료가 있는지 말해줌
• MBR = 냉장고에서 꺼낸 재료를 잠깐 쟁반에 올려둠.

✌️요리

• PC = 다음에 할 요리가 뭔지 기록.
• IR = 지금 하는 요리가 뭔지 기록.
• PSW = 요리 실패 여부를 기록

그렇다면 메모리 별로 연결이 어떻게 되는건지 위의 그림을 참조하면서 알아보자.

• PC -> MAR : 다음에 실행할 명령어의 주소를 넘긴다.
• MAR -> RAM : 받은 주소로 명령어를 요청한다.
• RAM -> MBR : 명령어를 가져온다.
• MBR -> IR : 명령어를 CPU로 전달한다.
• 해석 및 실행을 한다. 결과는 PSW에 저장한다.

---

폰노이만 구조의 문제점

1. 병목현상

빠르게 처리할 수 있지만, 느린 다른 부품(영향)으로 인해 전체 처리 속도가 느려지는 현상.

<문제점>

• CPU는 빠르게 처리할 수 있지만, 메모리에서 데이터/코드 를 가져오느라 대기해야 한다. - 병목현상 발생
• 그렇기 때문에 기억장치(메모리)의 성능이 전체 시스템 성능에 영향을 미치게 된다.
• ex) 뇌에서는 빠르게 처리하는데, 기억을 불러오는 속도가 느려서 병목현상 발생

<솔류션>

• Cache
  -> 최근 사용 데이터, 프로그램을 따로 저장해 해결
  -> cpu안에 빠른 임시 기억장치를 둬서, 자주 사용하는 데이터를 보관
• 코드 최적화

2. 프로그램과 데이터가 같은 메모리에 존재

<문제점>

• 프로그램과 데이터가 같이 있다보니, 프로그램의 실수로 자기 명령어로 덮어쓸 수 있다.
• 같이 있으니 명령어가 꼬일 수 있음.

<솔루션>

• 하버드 아키텍쳐
  -> 데이터와 프로그램 메모리를 분리.
  -> 데이터는 데이터 메모리에만 읽고 쓴다. 프로그램은 프로그램 메모리만 사용.
  -> 외부 데이터 접근 방지. - 보안성 증가

3. 프로그램과 데이터가 동일한 BUS 공유

<문제점>

• BUS를 같이 사용하기 때문에 데이터 전송 속도, 명령어 가져오는 속도가 서로 충돌하고 느려진다.

<솔루션>

• 하버드 아키텍쳐
  -> 데이터용 버스와 프로그램용 버스를 분리한다.
  -> 명령어와 데이터 전송이 동시에 이루어질 수 있어서 속도가 빨라진다.

하버그 구조 : CPU가 동시에 명령과 데이터를 처리할 수 있어 속도 증가

---

명령어 사이클(Instruction Cycle)

CPU는 프로그램을 실행할 때 명령어를 가져오고, 해석하고, 실행하는 과정을 거친다.

• Fetch : 명령어 가져오기
• Decode : 해석하기
• Execute : 해당 작업을 수행

1. CPU는 PC에 있는 주소를 보고, 해당 메모리 위치에서 명령어를 읽어온다.(Fetch)
2. 프로세서는 메모리에서 가져온 명령을 IR에 저장하고 PC를 PC+1의 값으로 최신화를 시킨다.
3. 명령어를 해석(Decode)하고 그 명령을 실행(Execute)한다.
4. PC를 읽어 다음 명령을 수행한다.

프로세서는 명렁어를 해석하고 필요한 작업을 수행

• 프로세서-메모리
• 프로세서-I/O
• 데이터 처리
• 제어

• Opcode(작업 코드) -> 프로세서가 어떤 작업을 수행해야 하는지를 결정
• AC (Accumulator) -> 계산 결과를 임시로 저장하는 레지스터.

Step 1,2
이 그림을 보면, 맨 처음 숫자는 opcode이다. 따라서 300번대 메모리에 1940이라는 명령어가 있다면, 1번 명령은 AC를 메모리에서 업데이트 하는것이기 때문에 1 뒤에있는 940번지에 있는 데이터를 찾는다(002) 따라서 이거를 AC로 업데이트 한다. 또한 PC값을 +1 시킨다.

Step 3,4
Fetch를 통해 PC에 있는 명령어를 읽어온다. 5941이기 때문에, 5는 AC에 값을 더하는 명령이기 때문에, 메모리 941번지에 있는 데이터를 가져오고 AC에 있던 3이라는 값과 더하기 연산을 수행 후 AC에 업데이트 한다.(3+2=5). 또한 PC값을 +1시킨다.

Ster 5,6
2941이라는 값을 확인한다, AC에 있는 값을 메모리에 저장하는 명령어다. 따라서 941번지에 있는 데이터를 AC의 값으로 업데이트한다.

---

Interrupts

인터럽트는 프로세서의 정상적인 순서를 중단한다.

• 프로세서 활용도를 개선하기 위해 제공된다.

  • 대부분의 I/O 장치는 프로세서보다 느림.
  • 프로세서는 장치를 기다리기 위해 일시 중지해야 함(낭비).

Without Interrupts

프로세서가 I/O 시간을 기다리게 됨 -> 사용자에겐 찰나의 순간이지만 CPU에게는 매우 긴 시간임 -> I/O Bound 발생

Interrupts

프로세서가 I/O 작업 요청을 보내고 다른 작업을 수행
요청했던 I/O작업이 끝나면 Interrupts가 걸리고 I/O작업 완료 업무를 수행
작업 완료후 다시 하던 작업을 이어서 수행
반복

• 인터럽트가 발생하면 CPU는 현재 실행중인 Fetch-Excute 사이클을 일시중지 한다.
• CPU는 현재 상태를 스택 또는 특정 레지스터 영역에 저장
• 인터럽트 핸들러 작동 -> 상태 복원을 수행
• HALT -> 인터럽트 활성화 상태로 전환

---

Memory Hierarchy

메모리는 데이터를 저장하고 필요할때 빠르게 읽거나 쓸 수 있게 하는 저장 공간이다. CPU가 작업을 수행할 때, 불필요한 정보를 일시적으로 보관하거나 불러오는 역할을 한다.

메모리에서 고려해야할 3가지 제약사항
1. Amount (용량) : 데이터라 프로그램을 저장하기 때문에 용량이 커야 한다.
2. Speed (속도) : CPU는 빠른데 메모리의 속도가 느리면 병목현상이 발생한다.
3. Expense (비용) : 메모리를 아무리 빨리 만들어도 비용이 크면 안된다.

하지만 이 3가지를 모두 만족하는 메모리는 없기 때문에 상황에 맞게 선택을 해야한다.

• 아래로 갈수록 용량이 증가, 느려짐, 비용이 감소함.
  
  
• 레지스터 - 가장 빠르고 용량이 적음
• 캐시 메모리 - CPU와 메모리 사이에서 자주 사용되는 데이터 저장
• 메인 메모리(RAM) - 실행중인 프로그램이 저장됨
• 보조 저장 장치(SSD/HDD) - 장지 저장

속도: 레지스터 > 캐시 > Main Memory > RAM > SSD

Principle of Locality

컴퓨터 프로그램이 메모리를 접근할 때, 시간과 공간에 뭉치는 경향이 있다.
=> 자주 사용하는 데이터를 다시 참조할 확률이 높은 경향이 있다.

• 시간 지역성
  • 최근에 사용한 데이터나 명령어는 가까운 미래에도 다시 사용될 가능성이 높다.
  • 반복문 사용-> 같은 메모리 참조
  • 특정 변수나 함수 사용 -> 같은 메모리 참조
• 공간 지역성
  • 한번 접근한 데이터 근처에 있는 데이터도 곧 접근될 가능성이 높다.
  • 배열 순회 -> arr[1] 다음 arr[2]....
  • 구조체나 클래스 -> 객체 사용할 때, 내부의 여러 멤버를 연속적으로 접근함.
  • 그래서 캐시는 데이터를 "조금씩" 가져오는 것이 아니라 "블록 단위"로 가져오게 된다.

💡Locality가 중요한 이유

지역성의 원리를 이용하면 메모리 성능을 향상시킬 수 있다!!!

☝️캐시 메모리

• CPU가 RAM에서 데이터를 직접 가져오는 것은 느림 -> 자주 사용하는 데이터나 명령어를 캐시에 따로 저장해둠.
• 지역성이 높을수록 Cache Hit 확률이 높아져 성능이 좋아진다.
• Cache Principles : 프로세서는 먼저 캐시를 확인함. 만약 있으면 빠르게 불러옴, 없으면(Cache-Miss) 메모리에서 블록으로 데이터를 가져와서 캐시에 넣음(바이트 단위X, 공간 지역성 때문)

✌️가상 메모리 (Virtual Memory)

• 메모리가 부족할 때, 자주 사용되는 데이터만 메모리에 남기고 나머지는 디스크로 스왑.
• LRU(Least Recently Used)를 사용해 최근 사용 데이터는 남기고 오래된 데이터는 제거.

Cache에 대하여

• 작고 빠른 메모리: CPU에 굉장히 가깝게 있어서, 메인 메모리 보다 훨씬 빠르다.
• 자동 동작: 개발자나 OS가 신경쓰지 않아도 CPU가 알아서 작동한다.
• 복사본만 저장: 일부를 복사해 오는 것이다. (전체가 아님)
• Replacement 필요: 캐시가 꽉 차면 어떤 블록을 버릴지 결정해야 한다.

Cache Replacement 알고리즘

캐시가 꽉 찼을 때, 어떤 데이터를 내쫓을지 결정하는 방법이다.

• LRU : 가장 오래전에 사용된 블록을 제거(현재 가장 효율적임)
• FIFO : 먼저 들어온 블록을 제거
• Random : 랜덤하게 제거
• LFU(Least Frequently Used) : 사용빈도가 가장 낮은 블록 교체

• Cache-Hit : CPU가 필요한 데이터가 캐시에 있는 경우 -> 빠르게 가져온다.
• Cache-Miss : 캐시에 없는 경우 -> 메인 메모리에서 가져오고, 캐시에 저장
  따라서, 캐시 미스를 줄이는 게 성능에 매우 중요하다.

• 초기 캐시는 단일 캐시를 많이 사용했지만, 요즘은 여러 level을 나눈다.
• L1은 작고 빠르고 점점 단계를 거칠 수록 느려지고 용량도 커진다.

+) Inclusive 캐시: L1에 있는 데이터가 L2, L3에도 존재할 수 있다.

+) Exclusive 캐시: L1에 있는 데이터는 L2, L3에는 없다 (데이터가 중복 저장되지 않음).

=> level을 나눠서 전체 메모리 접근 속도를 균형있게 만든다.

Cache Mapping Function

캐시는 제한된 공간을 가지기 때문에, 새로운 데이터 블록이 들어올때 기존 블록을 교체해야 한다.
이때, 매핑 방식이 유연할수록 검색회로가 복잡해진다.

• 직접 매핑 (Direct Mapped): 각 블록은 캐시의 1개의 고정 위치에만 저장.

• 연관 매핑 (Associative): 블록이 캐시의 어느 위치든 저장 가능 (검색 느림).

• 세트 연관 매핑 (Set-Associative): 직관과 연관의 절충 (예: 4-way set-associative).

Write Policy - 쓰기 정책

캐시 데이터 변경 시 메인 메모리에 반영하는 시기

• Write-Through : 캐시와 메인 메모리에 동시에 기록한다. -> 일관성이 높지만 성능이 저하된다.
• Write-Back : 캐시만 먼저 변경하고, 블록이 교체될 때 메모리에 반영한다. -> 성능이 우수하지만 일관성 관리가 복잡하다.
  (메모리에는 반영하지 않다가, 캐시에서 블록이 제거될때 메모리에 넣는다.)

추가 정보

• CPU내부에 Cache가 존재함, 근데 보통 L1, L2가 내부에 있고, L3는 붙어있는 느낌임.

• CPU는 직접적으로 캐시 파일에 접근하지 않는다. "정확히" 말하자면 CPU는 캐시나 메모리와 같은 물리적 공간을 건드리기 위해 "가상 주소"가 필요하다. 따라서 MMU를 통해 물리적 주소를 가상 주소로 변환해야한다.