[리눅스] - 빅데이터 처리 기술(spark) 1

Wooney98·2022년 12월 30일
0

PlayData_BackEnd

목록 보기
30/33
post-thumbnail

user & sudo 설정

  • 서버3개 동일 작성 수행
  • OS User 계정 생성
  • Sudo 권한 설정
  • Base Directory 생성
  • Utils 설치

OS User 계정 생성(spark)

  • 계정 생성
sudo useradd spark -m -s /bin/bash
# spark : user id
# -m : home directory 생성
# -s : shell 지정

cat /etc/passwd
  • 계정 암호 설정
sudo passwd spark
  • (나중에 필요 시) OS User 계정 삭제
sudo userdel -r spark

sudo 권한 설정

  • sudo 설정 파일 편집(/etc/sudoers)
sudo visudo

또는 

sudo vi /etc/sudoers

# 다음 내용 추가(spark 다음에 tab키 눌러야함)

spark   ALL=(ALL) NOPASSWD: ALL

# vi로 했을 때는 저장하고 종료 방법 :w! -> :q
# vi의 명령라인의 :w! 의미는 강제로 저장하기 임
  • sudo 권한 테스트 하기(계정 스위칭 확인)
sudo su - spark
sudo su - ubuntu
sudo su - spark

# 계정 스위칭 후 빠져 나올때 명령 : exit
  • 최종 spark 계정으로 실습 진행

Base Directory 생성

  • 기본 디렉토리명 (/playdata)
# 기본 디렉토리
sudo mkdir /playdata

ll /playdata

# 소유자 변경(spark)
sudo chown spark:spark /playdata

# 확인하기
cd /playdata
ls -al   또는 ll

Utils 설치

  • 필요한 패키지 모두 한번에 설치(wget, unzip, bzip2, net-tools)
sudo apt install -y unzip bzip2 net-tools
  • 미션 : worker도 master와 동일하게 적용하기

Host Name 설정

  • host name 설정(각 서버 별로 다르게 설정)
    • spark-master-01
    • spark-worker-01
    • spark-worker-02
# host명 설정
sudo hostnamectl set-hostname spark-master-01

# host명 확인
hostname  또는 cat /etc/hostname
  • /etc/hosts 설정(내부 망이기 때문에 사설 IP로 설정
# ip 확인
ifconfig 

# /etc/hosts 파일 설정(각 서버별로 동일한 내용으로)
sudo vi /etc/hosts

192.168.45.100 spark-master-01
192.168.45.101 spark-worker-01
192.168.45.102 spark-worker-02

ping 으로 연결 확인

ping spark-worker-01
profile
👨Education Computer Engineering 🎓Expected Graduation: February 2023 📞Contact info thstjddn77@gmail.com

0개의 댓글