spark에서 메모리 할당이 어떻게 될까

rerun.life·2021년 8월 27일
0

--num-executors 39 --executor-memory 20g --executor-cores 5 \

yarn.scheduler.minimum-allocation-vcores 1

→ 컨테이너 안에 excutor 생성 되므로 yarn UI에서는 컨테이너 40개와 (익스큐터 +1로 생김) vcore는 동일하게 40개로 생김

vcore의 경우 yarn-site.xml에 min = 1이기 때문에 컨테이너 수만큼 일정하게 생성

설정한 spark의 excutor-core의 경우 익스큐터 안에서 5개의 task로 도는거기 때문에 spark ui에서 확인하면 core가 195개로 돌아가고 있음을 확인 할 수 있다

profile
신나는인생

0개의 댓글