Nested Parallel

GraGrass·2024년 1월 19일

OpenMP(초급)

Chapter 7

Nested Parallel

1. Nested Parallel

개요

OpenMP 3.0부터 지원
병렬화 효율성 및 편의성의 증대

function

omp_set_nested(): nested parallel 사용 여부 설정 가능
- 인수 1: 사용 / 인수 0: 사용 안함
omp_get_nested(): nested parallel 지원 여부 결과 return

주의

OpenMP 5.2에서 deprecate 됨
HPC 환경에서는 사용하지 않는 것을 권장 (ex. 계산과학)

2. Example

C code

#include <stdio.h>
#include <omp.h>

int main()
{
	int tid;
    omp_set_nested(1); // nested parallel 사용
    omp_set_num_threads(2);
#pargma omp parallel private(tid)
{
	tid=omp_get_thread_num();
    printf("thread id=%d\n", tid);
    if (tid==1){
    	#pragma omp parallel private(tid)
        {
        	tid = omp_get_thread_num();
            printf("\t thread id=%d\n", tid);
        }
    }
}
}

Result

외부 병렬문에서 thread id=0,thread id=1 출력
내부 병렬문에서 \t thread id=0,\t thread id=1 출력

해석

처음 omp_set_num_threads(2)에서 Thread 0, Thread 1 생성
if (tid==1)에 의해 Thread 1에서 Thread 0, Thread 1이 다시 생성
Master Thread == level 0이며, fork를 할 때 마다 level이 1씩 증가

3. Additional Functions

function	설명
omp_set_nested(nested)	Nested Parallelism 활성화/비활성화
omp_get_nested()	Nested 설정 여부 return
omp_get_level()	현재 스레드의 level값 return
omp_get_ancestor_thread_num(level)	현재 스레드의 parent thread return
omp_get_team_size(level)	스레드 팀의 크기 return

Nested Parallel 데이터 유효범위

1. Example 1

C code

#include <stdio.h>
#include <omp.h>

int main()
{
	int x,y,z;
    omp_set_nested(1);
    omp_set_num_threads(4);
#pragma omp parallel private(y)
{
	// x: shared, y: private, z: shared
	#pragma omp parallel num_threads(2) private(x)
    {
    	// x: private, y: shared, z: shared
    }
}
}

해석

Master Thread에서 셋다 shared var로 시작
첫번째 병렬문에서 y가 private으로 선언되며 4개의 스레드에서 각각 y 변수가 생성
Nested 병렬문에서 x가 private으로 선언되며 8개의 하위 스레드에서 각각 x 변수가 생성

2. Example 2

C code

#include <stdio.h>
#include <omp.h>

int main()
{
	int x=1, y=10, z=20, tid;
    omp_set_nested(1);
    omp_set_num_threads(4);
#pragma omp parallel private(y, tid)
{	
	tid=omp_get_thread_num();
	x++;	y=12;	z=22;
	#pragma omp parallel num_threads(2) private(x, tid)
    {
    	tid=omp_get_thread_num();
        x=10;	y++;	z++;
        printf("\t tid=%d x=%d y=%d z=%d\n",tid, x, y, z);
    }
    printf("tid=%d x=%d y=%d z=%d\n",tid, x, y, z);
}
	printf("\n")
	printf("x=%d y=%d z=%d\n"x, y, z);
}