📚 프로세스(Process), 스레드(Thread), Virtual Thread

자바의 경량스레드 모델인 Virtual Thread를 한번 정리해볼려고 한다. 한번도 제대로 사용해본 경험은 없지만 그래도 개념을 정리해놓으면 나중에 적용하게 될 일이 생기면 좋지 않을까 생각한다.

간단하게 프로세스와 스레드의 차이점은 프로세스는 운영체제로부터 자원을 할당받아 실행하는 작업의 단위, 스레드는 프로세스로부터 자원을 할당받아 실행하는 흐름 또는 실행의 단위, 하나의 프로세스 내에서 스레드는 코드, 데이터, 힙 영역을 공유하고, 각각의 스레드는 스택 영역을 갖고 동작한다. 그래서 하나의 프로세스내에 있는 스레드 간에는 별도의 기술 없이 데이터 공유가 가능하다.

프로세스(Process)

일단 프로세스에 대해 알아보자! 우리는 프로세스를 쉽게 말할 때, 실행중인 프로그램, 즉 cpu에 의해 메모리에 올려져 실행중인 프로그램을 말한다. 자바 JVM은 주로 하나의 프로세스로 실행되며, 동시에 여러 작업을 수행하기 위해 멀티 스레드를 지원한다.

구분	프로그램	프로세스
정의	실행할 수 있는 파일 (정적인 상태)	메모리에 적재되어 실행 중인 프로그램
상태	저장 장치에 저장된 정적인 코드 덩어리	메모리에 적재되고 CPU 자원을 할당받아 실행 중
예시	.exe, .jar 등 실행 가능한 파일	프로그램이 실행되는 동안 메모리에서 실행되는 상태
간단한 설명	그냥 코드 덩어리	코드가 실제로 실행되고 있는 상태

프로세스 구조

• text : 실행 코드
• data : 전역 변수
• heap : 프로그램 실행중, 동적으로 할당되는 메모리
• stack : 함수를 호출할 때, 임시 데이터 저장소(예시: 함수 매개변수, 복귀 주소 및 지역 변수)

Stack 과 Heap영역은 프로세스가 실행되는 동안 크기가 늘어났다 줄어들기도 하는 동적 영역이다.

프로세스 상태

1. 생성 상태

프로세스가 생성된 상태
fork(), exec() 함수를 통해 생성, 이때 PCB 할당

• fork() : 부모 프로세스의 주고 공간 그대로 복사, 새로운 자식 프로세스 생성하는 함수
• exec() : 새롭게 프로세스를 생성하는 함수

2. 대기 상태

메모리 공간이 충분하면 메모리를 할당받고 아니면 아닌 상태로 대기하고 있으며, CPU 스케줄러로부터 CPU 소유권이 넘어오기를 기다리는 상태

3. 대기 중단 상태

메모리 부족으로 일시 중단된 상태

4. 실행 상태

CPU 소유권과 메모리를 할당받고 인스트럭션을 수행 중인 상태를 의미, 이를 CPU burst가 일어났다고도 표현

5. 중단 상태

어떤 이벤트가 발생한 이후, 기다리며 프로세스가 차단된 상태
I/O 디바이스에 의한 인터럽트로 이런 현상이 많이 발생하기도 한다.

6. 일시 중단 상태

중단된 상태에서 프로세스가 실행될려고 했지만 메모리 부족으로 일시 중단된 상태

7. 종료 상태

메모리와 CPU 소유권을 모두 놓고 가는 상태를 말한다. 종료는 자연스럽게 종료되는 것도 있지만 부모 프로세스가 자식 프로세스를 강제시키는 비자발적 종료(abort)로 종료되는 것도 있다. 자식 프로세스에 할당된 자원의 한계치를 넘어서거나 부모 프로세스가 종료되거나 사용자가 process, kill 등 여러 명령어로 프로세스를 종료할 때 발생

PCB

운영체제에서 프로세스에 대한 메타데이터를 저장한 '데이터'
프로세스 제억 블록
프로세스가 생성되면 운영체제는 해당 PCB 생성

컨텍스트 스위칭

PCB를 교환하는 과정, 한 프로세스에 할당된 시간이 끝나거나 인터럽트에 의해 발생

컨텍스트 스위칭은 왜 필요한가?
CPU는 한 번에 하나의 프로세스만 실행할 수 있으므로, 여러 프로세스/스레드를 동시에 실행시키기 위해서

멀티 프로세싱
하나의 프로세스에서 실행되어야할 작업들을 여러 개로 분리한 후에 각각의 CPU 코어에 넣어서 병행 실행되도록 하는 기법

스레드(Thread)

• 하나의 프로세스 내에서 동시에 진행되는 작업 갈래, 흐름의 단위
• 예를 들자면, 우리가 크롬 브라우저가 실행되면 하나의 프로세스가 생성된다. 하지만 우리는 브라우저에서 쇼핑을하거나, 파일을 다운 받고, 게임도 한다. 즉 하나의 프로세스안에서 여러가지 작업들 흐름이 동시에 진행되기 때문에 가능한데, 이러한 일련의 작업 흐름들을 스레드라고 하며 여러개가 존재한다면
  멀티(다중) 스레드 라고 한다.

스레드(Thread)의 자원 공유

스레드 끼리는 프로세스의 자원을 공유하면서 프로세스의 실행 흐름의 일부가 되고, 동시 작업이 가능하다. 이때 프로세스의 4가지 메모리 영역(Code, Data, Heap, Stack) 중 스레드는 Stack만 할당받아 복사하고 Code, Data, Heap은 프로세스 내의 다른 스레드들과 공유한다.

각각의 스레드는 별도의 stack을 가지지만 heap 메모리는 고유하기 때문에 서로 다른 스레드에서 가져와 써도 된다.

프로세스의 자원 공유

일반적으로 프로세스의 메모리는 별도의 저장 공간에서 실행되기 때문에 서로 접근이 불가능하다. 하지만 특별한 방법으로 정보를 공유 가능하다.

IPC(Inter-Process Communication)
LPC(Local inter-Process Communication)
별도의 공유 메모리를 만들어서 정보를 주고받도록 설정

자원 부담이 크다는 단점이 존재하여, 다중 작업이 필요한 경우, 스레드를 이용하는것이 훨씬 효율적이다.

CPU 스케줄링

1. 비선점형

프로세스가 스스로 CPU 소유권을 포기하는 방식, 강제로 프로세스 중지하지 않는다. 따라서 컨텍스트 스위칭으로 인한 부하가 적다.

FCFS

가장 먼저 온것을 가장 먼저 처리하는 알고리즘

SJF

실행시간이 짧은 프로세스를 가장 먼저 실행

우선순위

SJF의 긴 시간을 가진 프로세스가 실행되지 않는 현상을 방지하기 위해 오래된 작업일수록 우선 순위를 높이는 방법

2. 선점형

현대 운영체제가 쓰는 방식으로 지금 사용하고 있는 프로세스 알고리즘에 의해 중단 시켜버리고 강제로 다른 프로세스에 CPU 소유권을 할당하는 방식

라운드 로빈(RR)

각 프로세스는 동일한 할당 시간을 주고, 그 시간안에 끝나지 않으면 다시 준비 큐(ready queue)의 뒤로 가는 알고리즘

SRF

SJF는 중간에 실행 시간이 더 짧은 작업이 들어와도 기존 짧은 작업을 모두 수행하고, 그 다음 짧은 작업을 이어나가는데, SRF는 중간에 더 짧은 작업이 들어오면 수행하던 프로세스를 중지하고 해당 프로세스를 실행하는 알고리즘

다단계 큐

우선순위에 따른 준비 큐(Ready Queue)를 여러개 사용하고 , 큐마다 RR이나 FCFS 등 다른 스케줄링 알고리즘 적용하는 것

자바에서 스레드

자바는 main() 메서드가 시작되면서 Main Thread가 실행된다. 이러한 Main Thread 흐름 안에서 싱글 스레드가 아닌 멀티 스레드로 작동하고 필요해따라 또 다른 작업 스레드를 만들어 병렬로 코드를 실행 가능하다. 싱글 스레드면, 메인 스레드가 종료된다고 가정하면, 프로세스도 종료되지만, 멀티 스레드는 Main Thread가 종료되더라도 실행중인 스레드가 하나라도 존재한다면 프로세스는 종료되지 않는다.

자바에서 스레드를 만드는 방법은 2가지가 존재한다. 하나는 Thread 클래스를 상속 받는 방법, 또 하나는 Runnable 인터페이스를 구현하는 방법

1) Thread 클래스

class MyThread extends Thread {
    @Override
    public void run() {
        System.out.println("Thread 실행 중...");
        try {
            Thread.sleep(2000); // 2초간 대기
        } catch (InterruptedException e) {
            e.printStackTrace();
        }
        System.out.println("Thread 종료!");
    }

    public static void main(String[] args) {
        MyThread thread = new MyThread();
        thread.start(); // 스레드 시작
    }
}

2) Runnable 인터페이스

class MyRunnableImpl implements Runnable {
    @Override
    public void run() {
        System.out.println("MyRunnable 실행 중...");
        try {
            Thread.sleep(2000); // 2초간 대기
        } catch (InterruptedException e) {
            e.printStackTrace();
        }
        System.out.println("MyRunnable 종료!");
    }

    public static void main(String[] args) {
        MyRunnableImpl myRunnable = new MyRunnableImpl();
        Thread thread = new Thread(() -> myRunnable.run()); // Runnable을 실행
        thread.start(); // 스레드 시작
    }
}

사용 예제

class CalculationTask extends Thread {
    private int start, end;

    public CalculationTask(int start, int end) {
        this.start = start;
        this.end = end;
    }

    @Override
    public void run() {
        int sum = 0;
        for (int i = start; i <= end; i++) {
            sum += i;
        }
        System.out.println(Thread.currentThread().getName() + " 계산 완료, 합: " + sum);
    }

    public static void main(String[] args) {
        Thread thread1 = new CalculationTask(1, 500);
        Thread thread2 = new CalculationTask(501, 1000);

        thread1.start(); // 첫 번째 스레드 시작
        thread2.start(); // 두 번째 스레드 시작
    }
}

위 예제는 1부터 1000까지의 합을 두 개의 스레드를 사용하여 병렬로 계산하는 예시다. 각 스레드는 자신의 범위 내에서 계산을 수행하고, 두 스레드가 동시에 실행되므로 전체 계산 시간이 절약된다. 특히, 병렬 처리나 대기 시간 감소가 중요한 애플리케이션에서 스레드는 매우 유용하다.

자바 쓰레드 풀

• 미리 일정 개수의 스레드를 생성하여 관리하는 기법

생성된 스레드들은 작업을 할당받기 위해 대기 상태에 있는데, 작업이 발생한다면 스레드 중 하나를 선택하여 작업을 수행한다. 작업이 완료된다면 대기 상태로 가고, 새로운 작업을 할당 받을 준비를 한다.

이렇게 쓰레드 풀을 사용한다면, 스레드 생성 및 삭제에 따른 오버헤드를 줄이며, 특정 시점에 동시에 처리할 수있는 작업의 개수를 제한할 수있다. 따라서 시스템의 자원을 효율적으로 관리하고 성능을 향상 시킬 수 있다.

쓰레드 풀 예시 코드

import java.util.concurrent.ExecutorService;
import java.util.concurrent.Executors;

public class ThreadPoolExample {
    public static void main(String[] args) {
        // 스레드 풀 생성 (최대 5개의 스레드)
        ExecutorService executorService = Executors.newFixedThreadPool(5);
        
        // 10개의 작업을 제출 (총 10개의 작업이 스레드 풀에 의해 처리됨)
        for (int i = 0; i < 10; i++) {
            final int taskId = i;
            executorService.submit(() -> {
                System.out.println("작업 " + taskId + " 시작 - " + Thread.currentThread().getName());
                try {
                    Thread.sleep(2000); // 2초 동안 대기 (작업 시뮬레이션)
                } catch (InterruptedException e) {
                    Thread.currentThread().interrupt();
                }
                System.out.println("작업 " + taskId + " 완료 - " + Thread.currentThread().getName());
            });
        }
        
        // 작업이 모두 완료되면 스레드 풀 종료
        executorService.shutdown();
    }
}

Virtual Thread

자바의 기존 스레드 모델은 스레드 풀만으로는 처리량을 늘리는데 어려움을 겪었다.

기본에는 자바의 유저 스레드를 만들면 Java Native Interface(JNI)를 통해 커널 영역을 호출하여 OS가 커널 스레드를 생성하고 매핑하여 작업을 수행하는 형태였다.

Java 스레드는 I/O, interrupt, sleep 등의 상황에서 block/waiting 상태가 되어, 다른 스레드가 커널 스레드를 점유하여 작업을 수행하는 ‘컨텍스트 스위치’를 발생시킨다. 스레드는 프로세스의 공통 영역을 제외한 독립적인 실행 단위로, 프로세스에 비해 크기가 작고 생성 비용이 적으며 컨텍스트 스위칭 비용이 낮아 효율적이다.

하지만 서버 환경에서 요청량이 급증하면서 스레드 수가 많아질수록 메모리 한계와 컨텍스트 스위칭 비용이 증가하는 문제가 발생했다. 예를 들어, 1MB 크기의 스레드를 기준으로 4GB 메모리 환경에서는 최대 4,000개의 스레드만 생성할 수 있습니다.

이러한 문제를 해결하기 위해 Virtual Thread라는 경량 스레드 모델이 등장하여, 더 많은 요청을 처리하고 컨텍스트 스위칭 비용을 줄이는 방법으로 주목받고 있다.

Virtual Thread는 기존 Java의 스레드 모델과 달리, 플랫폼 스레드와 가상 스레드로 나뉜다. 플랫폼 스레드 위에서 여러 Virtual Thread가 번갈아 가며 실행되는 형태로 동작한다. 마치 커널 스레드와 유저 스레드가 매핑되는 형태랑 비슷하다.

여기서 가장 큰 특징은 Virtual Thread는 컨텍스트 스위칭 비용이 저렴하다는 것이다.

참고:

• 완전히 정복하는 프로세스 vs 스레드 개념
• [OS] 프로세스 구조
• 02. 운영체제 - 멀티 프로세스와 멀티 쓰레드
• [JAVA] 쓰레드 풀(Thread Pool): 개념, 장점, 사용 방법, 코드 예시 (feat. Baeldung)
• Java의 미래, Virtual Thread