스레드의 생성과 소멸이 자주되면 시스템에 많은 부담을 준다. 스레드가 하나의 일에 한번만 수행하고 소멸된다면 매우 비효율적인 일이 아닐수가 없다!.
오늘은 스레드를 어떻게 효율적으로 사용할지 정리해보겠다.
스레드 풀이 왜 필요해?
앞서 말했듯, 스레드의 생성과 소멸은 성능적으로 많은 부담이 되기에, Thread pool을 유지하는 게 성능향상에 도움이 된다. 스레드 풀의 뜻은 스레드의 recyling(재활용)이다. 할당된 일을 마친 스레드는 바로 소멸 시키지 않고 스레드 풀이 잠시 저장해뒀다가 또 필요할 때가 되면 꺼내 쓰는 것이다.
즉, 스레드 생성과 소멸 할때마다 kernel object를 동반하는 리소스이므로 비용이 크게 발생하는데 스레드 풀을 사용하면 비효율적인 할당과 해제시키는 비용을 지불하지 않겠다는 것이다.
스레드(Thread)
-어떤 실행되는 프로그램 내에서 실행되는 흐름의 단위
풀(Pool)
-필요할 때마다 개체를 할당하고 해제하는 대신에 할 일 끝나고 준비된 상태로 초기화된 개체 집합
스레드풀은 처리해야할 일이 등록되기 전에 생성된다. 풀이 생성됨과 동시에 스레드들도 생성되어 풀에서 대기하게 된다.
스레드 풀의 동작 방식
- 병렬 작업의 형태로 동시 코드를 작성한다.
- 실행을 위해 스레드 풀의 인스턴스에 제출한다.
- 제출한 인스턴스에서 실행하기 위해 재사용되는 여러 스레드를 제어한다.
스레드 풀을 사용하면 앞서 말한 비용적인 측면이나 context switching 상황에도 딜레이를 줄일 수 있는 장점이 있다.
하지만 단점으로는 스레드 풀에 너무 많은 스레드를 필요 이상으로 미리 만들어 놓는다면 이것 또한 과유불급으로 메모리 낭비이다. 그래서 상황에 맞게 예측하고 할당해서 사용하는 것이 좋다.
Java에서 스레드 풀 사용
ExecutorService 인터페이스의 구현 객체를 정적 팩토리 메서드로 제공하는 Executors 클래스의 세 가지 메소드 중 하나를 이용하여 스레드 풀을 쉽게 생성할 수 있다. 자세한 메서드 사용법은 이곳에서 알 수 있다.
ThreadPoolExecutor 에서 사용되는 파라미터로는 corePoolSize(생성할 개수), maximumPoolSize(생성할 최대 개수), keepAlive(유지 시간) 이 있다. 스레드풀에서 스레드를 생성할 때는 corePoolSize의 파라미터만큼 코어 스레드를 생성한다. 그리고 새로운 작업이 들어오면 모든 코어 스레드가 사용중이고 내부 큐가 가득차면 스레드 풀의 최대 크기는 maxiumPoolSize만큼 커진다. 만약, 반대로 현재 스레드 풀이 생성할 개수보다 많은 스레드를 가지고 있다면 keepAlive(유지시간)이 지나면 알아서 제거가 된다. 이것은 효율적인 기능으로 자원의 낭비를 감소 시킬 수 있다.
스레드 풀에 작업요청을 하는 방식은 execute(), submit() 방식이 있다.
excute() 방식은 작업 처리 중에 예외(Exception)가 발생하면 해당 스레드가 종료되고 스레드 풀에서 제거가 된 뒤 새로운 스레드를 생성하여 다른 작업을 처리한다. 또한 처리결과를 반환하지 않는다.
submit() 방식은 작업처리중에 예외가 발생하더라도 스레드가 종료되지 않고 다음 작업에 사용한다. 처리 결과를 Future<?>로 반환한다. 따라서 스레드 풀을 사용할 때 submit을 사용하는 점이 더 바람직하다.
스레드풀을 구현하는 자바 예제
pulbic class MyCounter {
private int count;
public void increment(){
try{
count = temp + 1;
Thread.sleep(1000);
} catch (InterruptedException e) {
e.printStackTrace();
}
}
public int getCount() {
return count;
}
}첫 번째 방법은 Executors.newFixedThreadPool(int nThreads) 에 대해 알아본다.
파라미터로 제공되는 n 개 만큼 스레드 풀을 생성한다. 보통 일정량의 업무가 발생할 때 사용한다. 다음 예시는 18개의 스레드가 필요한 Task 를 제공하고 5개의 스레드 풀로 처리하는 과정을 확인해 보는 테스트다.
@DisplayName("FixedThreadPool 을 생성한다.")
@Test
void testCounterWithConcurrencyFixed() throws InterruptedException {
int numberOfThreads = 18;
ExecutorService service = Executors.newFixedThreadPool(5);
CountDownLatch latch = new CountDownLatch(numberOfThreads);
MyCounter counter = new MyCounter();
iterateThread(numberOfThreads, service, latch, counter);
assertThat(((ThreadPoolExecutor) service).getPoolSize()).isEqualTo(5);
}
private void iterateThread(int numberOfThreads, ExecutorService service, CountDownLatch latch, MyCounter counter) throws InterruptedException {
for (int i = 0; i < numberOfThreads; i++) {
service.submit(() -> {
counter.increment();
latch.countDown();
throw new IllegalArgumentException();
});
}
latch.await();
}
실행 결과를 살펴보면 한 스레드에서 작업을 처리하는 데 1초가 걸리도록 설정이 되어있다. 그 때문에 5개의 작업을 3번, 3개의 작업을 1번 하게 되면서 총 작업 시간은 (3+1)초 + 로직 실행 시간(300ms)이 된다. 따라서 스레드 풀에 생성된 스레드 개수만큼 작업을 처리하는 모습을 확인할 수 있다. 또한, 스레드 풀의 크기가 5개로 유지되는 모습을 확인할 수 있다. 해당 작업에서 Count 가 여러 스레드에서 동시에 호출되는데 이 경우 비동기로 처리되기 때문에 실제 Count 의 결과(counter.getCount())는 100보다 작은 값이 반환되며 실행할 때마다 랜덤한 결과를 반환하는 모습을 확인할 수 있다.
두 번째 방법은 Executors.newCachedThreadPool() 에 대해 알아본다.
초기 스레드 개수가 0개로 설정되며 스레드 개수보다 많은 양의 작업의 요청되면 새로운 스레드를 생성하여 작업을 처리한다. 작업이 끝난 스레드가 60초 이상 새로운 작업요청이 없으면 스레드를 종료하고 스레드 풀에서 제거된다. 다음 예시는 18개의 스레드가 필요한 Task 를 제공하고 5개의 스레드 풀로 처리하는 과정을 확인해 보는 테스트다. 위에 생성해둔 코드에 이어서 작성해서 테스트를 진행하면 된다.
@DisplayName("CachedThreadPool 을 생성한다.")
@Test
void testCounterWithConcurrencyCached() throws InterruptedException {
int numberOfThreads = 18;
ExecutorService service = Executors.newCachedThreadPool();
CountDownLatch latch = new CountDownLatch(numberOfThreads);
MyCounter counter = new MyCounter();
iterateThread(numberOfThreads, service, latch, counter);
assertThat(counter.getCount()).isEqualTo(numberOfThreads);
assertThat(((ThreadPoolExecutor) service).getPoolSize()).isEqualTo(18);
Thread.sleep(60000); // 60초 후 생성된 스레드가 제거되는지 확인한다.
assertThat(((ThreadPoolExecutor) service).getPoolSize()).isEqualTo(0);
}
세 번째 방법은 Executors.newScheduledThreadPool(int corePoolSize) 에 대해 알아본다.
스레드를 일정시간이 흐르고 난 뒤 실행시키도록 하는 스케줄링 스레드 기능이다. 해당 기능을 테스트해 보기 위해서는 테스트 코드가 아닌 메인에서 실행해봐야 한다. 따라서 Sample 클래스를 만들고 실습을 해본다. corePoolSize 는 생성할 corePool 의 크기를 지정해주는 부분인데 Executors.newScheduledThreadPool(0) 을 하더라도 실행에는 문제가 없어 보인다. 다만 JDK 8 버전 이하에서 발견된 버그로 단일 코어 가상 머신에서 CPU 를 100% 사용하는 버그가 있기 때문에 파라미터로 1 이상으로 설정한다.
public class Sample {
public static void main(String[] args) {
ScheduledExecutorService service = Executors.newScheduledThreadPool(1);
System.out.println("첫 번째 작업이 실행됩니다.");
service.schedule(() -> System.out.println("두 번째 작업이 실행됩니다."), 5, TimeUnit.SECONDS);
System.out.println("세 번째 작업이 실행됩니다.");
service.shutdown();
}
}
스케줄에서 설정한 5초가 흐른 후 두 번째 작업이 실행됩니다. 가 실행되는 모습을 확인할 수 있다.
결론
자바에서 사용하게 될 스레드 풀에 대해 간단하게 알아봤다. 얼마만큼의 스레드가 주기적으로 소모될지, 스레드를 추가로 생성할지, 작업 후 반환 값을 받을지에 대한 분석을 토대로 상황에 적합한 Thread 및 ThreadPool 을 적용한다면 멀티 코어 프로그래밍에 큰 도움이 된다고 생각한다. 다만, 적절하지 않게 사용할 경우 오히려 사용하지 않은 것보다 못할 수 있기 때문에 주의해야 한다.
