💡 프롤로그: 혼자보다 함께가 어려운 이유

예전엔 CPU 안에 딱 하나의 코어만 있었어요. 모든 작업은 이 하나의 뇌로 처리됐죠. 그런데 이제는 멀티코어 시대. CPU 안에 두 개, 네 개, 여덟 개… 심지어 수십 개의 코어가 들어 있는 시대입니다.

그런데 여기서 궁금증 하나.

"코어가 많아졌는데 왜 컴퓨터가 그렇게까지 빨라지진 않을까?"

그 이유는 아주 간단합니다. 코어끼리 협업이 어렵기 때문이에요.

그래서 이번 시리즈에서는 멀티코어 시대의 컴퓨터가 어떻게 협력하는지, 그 안의 규칙과 충돌, 조율 방식을 이야기처럼 풀어볼 거예요. 첫 화부터 함께 떠나볼까요?

---

🌟 1화. 각자의 캐시를 가진 CPU들

💡 왜 코어마다 캐시가 있을까?

현대의 CPU는 메모리보다 훨씬 빠르게 작동합니다.
하지만 메모리에서 직접 데이터를 가져오면 속도가 너무 느리기 때문에, CPU는 작은 저장소인 캐시(Cache)를 사용해요.

그리고 멀티코어 CPU에서는 각 코어가 자신만의 캐시(L1, L2)를 갖고 있어서 병렬 처리 속도를 높입니다.

예를 들면:

• CPU1은 자기 일을 하느라 자주 사용하는 데이터만 골라 자기 L1 캐시에 저장해둬요.
• CPU2도 마찬가지로 자기만의 캐시에 필요한 데이터를 저장하고 작업해요.

이건 성능 측면에서는 아주 좋은 구조지만… 문제가 하나 생겨요.

⚠️ 문제 발생: 캐시가 ‘따로 논다’

문제는 코어들이 같은 메모리 주소의 데이터를 각자 다르게 가질 수 있다는 것이에요.

예시

1. 공유 변수 x가 메인 메모리에는 0으로 저장되어 있음
2. CPU1이 x = 1로 바꾸고, 그 값을 자기 L1 캐시에 저장함 (메모리는 아직 업데이트 안 됨)
3. CPU2는 여전히 옛날 값인 x = 0을 자기 캐시에 가지고 있음

이 상태에서 CPU1과 CPU2가 서로 다른 값을 보게 되면, 같은 프로그램인데도 결과가 예측 불가능하게 바뀌게 됩니다.

이처럼 같은 메모리 주소를 두 코어가 서로 다르게 캐싱해서 시스템 전체의 데이터 일관성이 깨지는 현상을
우리는 캐시 일관성 문제(Cache Coherency Problem)라고 부릅니다.

💥 왜 이게 심각한 문제일까?

멀티코어 환경에선 여러 스레드가 같은 데이터를 공유하는 일이 아주 흔해요.
이럴 때 캐시 일관성이 깨지면 다음과 같은 문제가 생겨요:

1. 예측 불가능한 결과: 어떤 코어가 최신 데이터를 보는지 알 수 없음
2. 디버깅 어려움: 실행할 때마다 다른 결과가 나올 수 있음 (Heisenbug 현상)
3. 데이터 무결성 훼손: 특히 금융, 통신, 보안 시스템에선 치명적

✅ 그래서 해결책은?

바로 캐시 일관성 프로토콜을 사용하는 거예요.

대표적인 프로토콜인 MESI는 각 캐시 블록의 상태를 Modified, Exclusive, Shared, Invalid 네 가지로 관리하면서,

• 누가 데이터를 갖고 있는지
• 누가 수정했는지
• 누가 공유하고 있는지

를 실시간으로 추적하고, 읽기/쓰기 요청에 따라 캐시 상태를 동기화합니다.

🌟 2화. 혼선을 막기 위한 규칙 – MESI 프로토콜

그래서 등장한 것이 바로 MESI 프로토콜이에요. 이건 각 캐시 블록이 어떤 상태인지 알려주는 규칙이에요.

상태	의미
M (Modified)	수정됨. 메모리와 다름. 나만 갖고 있음
E (Exclusive)	나만 갖고 있고, 메모리와 같음
S (Shared)	여러 캐시가 공유 중. 메모리와 같음
I (Invalid)	무효화됨. 더 이상 못 씀

상태 전이 예시

• CPU1이 x를 Modified 상태로 갖고 있다가
• CPU2가 x를 읽으면 → 둘 다 Shared 상태로 전이
• 이후 CPU2가 x를 쓰려고 하면 → 다른 캐시들 무효화 요청 → Modified 상태 진입

이렇게 서로의 상태를 조절하면서 캐시 일관성을 유지합니다.

---

🌟 3화. CPU들은 서로를 어떻게 감시할까? – Bus Snooping

그런데 코어끼리는 어떻게 서로가 어떤 상태인지 알 수 있을까요?

바로 버스를 몰래 엿듣는 방식, Bus Snooping입니다.

각 캐시는 공용 버스를 실시간으로 감시해요.

• 누군가 메모리 x를 읽거나 쓰면?
  • "나 갖고 있어!" 혹은
  • "그럼 난 내 캐시 무효화해야지..."

이렇게 서로 눈치 보며 캐시 상태를 관리해요.

하지만 코어가 많아지면 모두가 버스를 엿듣는 구조는 혼잡해지고 확장성이 떨어지죠.

---

🌟 4화. 커진 팀엔 규칙이 필요하다 – 디렉터리 기반 일관성

코어 수가 수십 개, 수백 개가 되면 엿듣기 방식은 한계에 부딪힙니다.

그래서 등장한 게 디렉터리 기반 프로토콜이에요.

• 중앙에 디렉터리를 두고
• 메모리 블록마다 "이거 누가 갖고 있음?" 상태를 관리해요

예시:

• CPU3가 x를 쓰려 하면
  • 디렉터리에게 요청
  • 관련 코어들에게 무효화 요청 전파

마치 중간 관리자처럼 각자 갖고 있는 상태를 파악해서 전파해주는 거죠.

---

🌟 5화. 명령어 순서도 협업의 일부다 – 메모리 모델

캐시 일관성만 잘 유지하면 끝일까요? 아니에요.

CPU는 내부적으로 명령어 순서를 바꿔 실행하기도 해요. 왜? 더 빠르게 처리하기 위해서요.

x = 1;
y = x + 1;

이런 코드조차 CPU는 y를 먼저 계산할 수도 있어요!

그래서 각 언어나 CPU마다 "어느 정도까지 순서를 보장할 것인지"를 명시한 메모리 모델(Memory Model)이 존재해요.

• Java에는 volatile
• C++에는 memory_order_acquire

같은 키워드가 바로 그걸 위한 거예요.

멀티코어의 협업은 '순서'까지 신경 써야 합니다.

---

🌟 6화. 진짜 병렬성의 시작 – 멀티코어와 스레드

이제 일관성을 다졌다면, 진짜 멀티코어의 힘, 병렬성(Parallelism)에 대해 이야기해볼게요.

멀티코어란 여러 개의 코어가 하나의 CPU 안에 있는 구조고,
병렬성은 이 코어들이 동시에 작업을 수행하는 능력입니다.

🍳 주방 비유

• 싱글코어 = 셰프 1명이 모든 요리 담당
• 멀티코어 = 셰프 여러 명이 동시에 요리
• 각각의 요리는 = 스레드(Thread)
• 주방 전체는 = 프로세스(Process)

스레드의 장점

• 같은 메모리를 공유해서 빠름
• 병렬 처리 가능

---

🌟 7화. 협업의 필수 조건 – 동기화와 뮤텍스

하지만 스레드끼리 자원을 공유하다 보면 충돌이 발생할 수 있어요.

예:

• 두 스레드가 동시에 x++을 실행하면?
  • 예상 결과: 2
  • 실제 결과: 1 😱

그래서 사용하는 것이 바로 동기화(Synchronization) 기법입니다.

도구	역할
뮤텍스(Mutex)	한 번에 하나만 자원 접근 가능
세마포어	동시에 N개까지만 접근 허용
락/Unlock	자원 잠금과 해제

협업에는 충돌 방지가 필수예요.

---

🌟 8화. 사용자 vs 커널 모드 – 누가 얼마나 접근할 수 있을까?

CPU에는 두 가지 실행 모드가 있어요:

• 사용자 모드: 일반 프로그램 실행 (제한적 권한)
• 커널 모드: 운영체제 기능 실행 (전체 권한)

✈️ 공항 비유

• 일반 승객 = 사용자 모드 (탑승구까지만)
• 보안 요원 = 커널 모드 (제어탑, 활주로까지 접근 가능)

사용자 모드에서 커널 기능을 쓰고 싶으면?

시스템 콜(System Call)을 통해 커널 모드로 전환해야 해요.

하지만 이 전환에는 비용이 들어요. 너무 자주 전환하면 성능 저하가 발생할 수 있죠.

---

🌟 9화. CPU에게 찾아온 응급 상황 – 인터럽트 시스템

마지막으로, CPU가 열심히 작업 중인데
갑자기 외부에서 긴급한 일이 생기면 어떻게 해야 할까요?

그걸 처리하는 구조가 바로 인터럽트 시스템이에요.

예: CPU가 진료 중인 의사라면?

• 응급환자 등장 → 현재 환자 진료 멈춤
• 응급처치(ISR) 실행
• 다시 원래 환자로 돌아가기

인터럽트의 종류

유형	예시	설명
하드웨어	키보드, 마우스	외부 장치 요청
소프트웨어	시스템 콜, 0으로 나누기	내부 발생
동기/비동기	예외 vs 장치 신호	발생 시점 기준

인터럽트는 실시간 반응성과 안정성을 책임집니다.

---

✅ 전체 요약

개념	요약
캐시 일관성	코어마다 다른 값 방지 (MESI)
상태 전이	읽기/쓰기 시 캐시 상태 전환
Bus Snooping	캐시들이 버스를 엿듣고 조정함
디렉터리 방식	중앙 관리자로 확장성 확보
메모리 모델	명령어 순서 보장 여부를 규정
병렬성 & 스레드	여러 작업 동시 실행을 위한 구조
동기화	충돌 방지를 위한 제어 장치
사용자/커널 모드	권한 구분 및 모드 전환 구조
인터럽트 시스템	긴급 상황 대응을 위한 CPU 구조

---

멀티코어는 성능이 아닌 협업이다.
잘 나뉜 역할과 철저한 조율이 진짜 빠름을 만든다.