Introduction

연구 과제를 진행하며 aws를 사용하여 딥러닝 서버 구축을 담당하게 되었다.

따라서 해당 글은 서버쪽의 AWS를 다루고 구성하는 방법에 초점을 맞춰 글을 쓴다.
※ 클라이언트 쪽이나 딥러닝 모델과 관련된 부분은 깊게 서술하지 않는다. (코드도 없다.)

---

다 필요없고 여기로 이전되었다.

https://ap-northeast-2.console.aws.amazon.com/servicequotas/home?region=ap-northeast-2#!

서비스 할당량 증가는 새로운 Service Quotas 대시보드로 이전 중입니다.
Service Quotas 대시보드를 사용하여 중앙에서 AWS 서비스에 대한 할당량을 보고 관리할 수 있습니다. 현재 일부 서비스는 지원되지 않습니다. 자세히 알아보세요.

Service Quotas 대시보드

---

시스템 구조

해당 과제들의 전반적인 시스템 구조 다이어그램은 다음과 같다.
두개의 과제를 동시에 진행하였다.

구조 1 (클라이언트가 모바일)

구조 2 (클라이언트가 GUI application)

이처럼 두개의 과제를 동시에 진행하였는데, 과제 1의 경우 클라이언트가 모바일이며 병해 이미지를 사용자가 촬영하여 서버로 전송하면 이를 서버에서는 병해가 발생한 부분을 검출 한 결과를 사용자(모바일)에게 반환해준다.

과제 2의 경우, 클라이언트(GUI application)에서 MongoDB에 검출할 이미지를 저장한 뒤, 서버에 요청하여 이미지가 저장되었음을 알린다. 이후 서버는 저장된 이미지를 DB에서 다운로드하여 검출 결과를 JSON형식으로 저장한다. 이후 해당 JSON을 파싱하여 DB에 검출된 병변의 BBOX정보를 다시 저장한다.

DB에 저장된 BBOX 정보를 통해 클라이언트에서는 해당 이미지에 openCV를 통하여 병변 영역에 대한 부분을 검출하게 된다.

※ BBOX : Bounding box

바로 하나씩 시작해보록 하자. AWS 계정을 생성하는 부분은 생략한다.

---

1. 계정 MFA 설정하기

기본적으로 AWS는 해킹 시 피해가 상당히 크다. 예를 들어 AWS를 켜고 군대를 갔다왔더니, 계정이 해킹 당해 채굴을 당하는 바람에 빚이 2억씩 쌓여 있는 경우도 허다하다.

따라서 OTP : Goolge OTP인 멀티팩터 인증(MFA)를 등록하는 것이 좋다. 폰에 나오는 숫자를 입력한번 더 하고 로그인하는 것이다.
(넥슨 게임같은 거 해보면 종종 봤을 것이다. / OCU 강의에서 또한 필수로 사용되고있다.)

1. 화면의 오른쪽 위 보안 자격 증명으로 들어간다.

2. MFA 할당을 클릭한다.

3. 폰에 플레이스토어를 통해 google OTP를 설치하고, 다음을 눌러 진행하면 된다.
MFA 디바이스를 휴대폰으로 선택하고, QR코드 및 MFA 코드를 2번 입력한다. 이때 MFA 코드는 30초를 기다렸다가 한번 더 입력하는 형식으로 총 2번의 코드를 입력한다.

보안 걱정 때문에 나중에 계정을 지우는 것 보단 훨 간단하니 해놓도록 하자.
본인은 개인 계정에만 해놓고, 교수님 계정은 교수님 폰이 나에게 없으므로 안했당.

---

2. 키 페어 생성 (중요)

일종의 서버문을 열고 들어가기 편하도록 만든 열쇠다. 비밀번호 치고 이러면 어렵자낭.🍙

서버를 구축하기 전 미리 키를 받아놓아 적용하느 것이 편하다.
구축할 때 키를 걸어두지 않으면 서버어 보안이 걸리지않아 아무리 본인임에도 외부에서 접속이 불가능하다.

구축하고 키 걸려고하면 귀찮아지므로, 구축할 때 반드시 키를 걸어두자.

AWS EC2화면에서 왼쪽 아래 네트워크 및 보안 > 키페어 > 키페어 생성을 통해 키페어를 생성한다.
이때 이름은 알아서 설정하고, 키페어 유형은 RSA로 키 형식은 .pem을 사용하도록 하자.

생성하게 되면 키는 즉시 다운되는데 당연 하겠지만 git에 올리지 말고, 삭제하지않도록 그냥 컴퓨터에 잘 두자.
서버를 외부(다른 컴퓨터나 서버를 켰던 컴퓨터 등)에서 접속할 때 SSH key를 사용해서 접속하게 된다.

• SSH는 단순하게 외부에서 서버로 접속하게 해주는 보안 프로토콜이다. 이 보안 프로토콜을 통해 서버로 입장하고 입장에 필요한 입장권이 (Key.pem) 이다.

• 필자는 PuTTY를 잘 모른다. 따라서 굳이 PuTTY를 사용하여 접속할 이유가 없다고 생각한다.
  pem key 받아서 Open SSH로 그냥 CMD키고 한줄만 치면 접속된다. 따라서, pem 키로 받도록하자.

---

3. 인스턴스 생성

다운받아 두었던 키를 이용하여 인스턴스를 생성해준다.

인스턴스란 AWS의 가상 클라우드 컴퓨터라고 생각하면 된다. 이러한 인스턴스를 생성하는 순간 AWS에서 나를 위해 가상 컴퓨터 한대를 만들어 주는 것이다.

0. EC2 > 인스턴스 > 인스턴스 시작
1. 적당한 서버 이름을 입력해준다.
2. 애플리케이션 및 OS 이미지를 설정한다. (AMI 설정)
가장 만만한 프리티어 버전의 우분투OS로 설정하도록 하자.

AMI란?

• AMI라 불리는 이것은 기본적으로 컴퓨터의 OS를 지정할 수 있다.
  또한 AMI를 통해 사용자가 필요한 환경에 맞춰진 필요한 프로그램들이 이미 잘 설치된 환경을 불러 올 수 있다. (예를 들어 Tensorflow 환경 등..)
• 이러한 AMI의 아키텍쳐에 따라서 사용할 수 있는 GPU가 달라진다. (intel, AMD를 생각해보면 당연한 얘기다.)
• AWS에서 제공하는 AMI가 아닌 사용자들이 등록한 AMI또한 찾을 수 있는데, 해킹의 위험이 있으므로 웬만하면 AWS에서 제공하는 AMI를 사용하도록 하자.

3. 인스턴스 유형을 선택.
이 부분이 어찌보면 가장 중요하다고 볼 수 있다. 간단한 API를 주고 받는 서버 정도라면 t2.micro를 사용해도 상관없으나, 딥러닝 모델이나 영상처리등 연산량이 많은 작업을 수행해야 할 때는 이 부분을 잘 고려해서 본인에게 맞는 인스턴스를 선택해야한다. (따라서 바로 아래 인스턴스 선택 방법을 참고한다)

💲 인스턴스 선택 방법

• 자신에게 맞는 인스턴스 검색 (친철하게 최저가를 찾아, 한달 이용 시 가격을 계산해 준다. )
  https://calculator.aws/#/addService
  리전을 아시아 태평양(서울)로 선택 후, 아래 메뉴들 중 우리는 EC2를 사용할 것이므로 EC2 구성을 누른다.
  (만약 다른 지역의 서비스를 이용하거나, EC2가 아니라면 다른 부분을 선택하자.)
  
  이때 주의해야 할 사항은, 해당 인스턴스가 AMI 설정 때의 아키텍쳐와 호환이 되는 지 주의하자.
  GPU를 쓴다면 특히 주의해야한다.
  (기존에는 GPU 유/무를 설정하는 부분이 있었는데, 해당 부분이 어찌된 일인지 사라진 것 같다. 뭐지..)

• 자신에게 필요한 인스턴스 유형 찾기
  https://aws.amazon.com/ko/ec2/instance-types/
  
  해당 방법으로 찾고 아래서 가격정보를 얼추 맞춰보는 것이, 가장 편리하다고 생각한다.
  내가 하고자 하는 프로젝트에 맞춰서 콘텐츠를 선택하고 해당 콘텐츠들 중 괜찮은 모델을 선택하면 된다.
  필요한 vCPU 수를 친절하게 다 알려준다.

• 가격 정보 (시간 당 요금이므로 x24를 하면 하루 당 요금이 얼추 계산된다.)
  https://aws.amazon.com/ko/ec2/pricing/on-demand/

🚫 주의 사항

• 기본으로 사용가능한 (A, C, D, H, I, M, R, T, Z)인스턴스의 vCPU는 최대 32이며, 프리티어 버전의 최대 무료 메모리(GiB)는 30이다.
• (P, G)인스턴스의 경우 GPU를 사용하는 인스턴스로 기본으로 제공되는 vCPU의 최대는 0이다.
  (따라서 GPU사용을 원한다면 반드시 확장이 필요하다.)
• 확장의 경우 AWS에 요청 글을 써야 하는데, 이 부분에 대해서는 아래를 참고하자.
  😏 AWS에 vCPU추가로 요청하기
• 기본이라는 뜻이 무료라는 뜻은 절대 아님. 확장 요청하지 않은 경우 사용할 수 있는 최대 치를 뜻함.

💹 GPU 사용 시

• AWS GPU 사용 시 TIP ✨
  (설정한 GPU를 최대사용으로 만든다. 인스턴스 구축 이후, 구축한 CLI창에 입력)
  https://docs.aws.amazon.com/ko_kr/AWSEC2/latest/UserGuide/optimize_gpu.html
• AMI 설정 시 TIP ✨
  GPU사용에 필요한 세팅을 이것저것 자동으로 해준다.
  (Tensorflow 의 경우 반드시 필요. yolo의 경우는 그냥 우분투 기본써도 되는 것 같다.)
  https://cinema4dr12.tistory.com/1031
  https://codingcrews.github.io/2019/01/15/deeplearning-gpu/

---

4. 인스턴스 최적화

인스턴스가 생성되었다면 연결을 누르고, 인스턴스 CLI화면을 띄운다.

이후 해당 코드를 반드시 실행시켜 업데이트 및 기본적인 사항을 설치해 주도록 한다.
(이것 때문에 gcc+오류가 나서 고생했다.)

sudo apt-get update

sudo apt-get install build-essential

sudo apt-get install git

---

5. 탄력적 ip 할당 및 설정하기

외부 접근이 가능하도록 탄력적 IP를 할당하고 설정한다.

• 사실 탄력적 IP를 굳이 설정하지 않더라도, 퍼블릭 IP를 그대로 사용하면 정상적으로 접근 할 수 있다.
  하지만, 이 경우 서버를 24H 켜놓지 않는 이상 서버를 껏다 키면 퍼블릭 IP(공인IP)는 변경되게 된다. 따라서 클라이언트 개발자에게 매번 새로운 IP를 알려주는 것이 귀찮으므로 탄력적 IP를 할당받아 설정해주도록 하자.

1. EC2 메뉴 왼쪽의 탄력적 IP 클릭
   

2. 탄력적 IP주소 할당 클릭 후 할당하기
   

3. 생성된 탄력적 IP를 인스턴스와 연결
   

생성해 두었던 인스턴스와 연결한다.

인스턴스에 들어가보면 이제 탄력적 IP가 연동된 것을 확인할 수 있다.

이제 해당 IP주소를 통해, GUI로 파일 접근 및 SSH접속이 가능하도록 할 것이다.

• GUI 접근은 아래 6. 파일 관리 설정을 에서 서술한다.
• SSH 접근은 외부 컴퓨터에서 접속이 가능하도록 하는 것을 말한다.

---

6. 파일 관리 설정

우분투 CLI 환경으로 파일을 관리하고 생성하고 옮기는 작업은 상당히 힘들고 귀찮다.. 😥
또한, git clone은 한 파일당 100mb의 제한으로 weight파일과 같은 큰 용량의 파일을 옮겨오는 것은 여간 귀찮은 것이 아니다. 이를 쉽게 관리하는 방법을 알아보자.

• (리눅스 <-> Windows)간 파일을 옮기는 방법은 정말 여러 방법이 많이 있으나, 후에 서술할 Filezila가 정말 정말 편하다.

방법 1. FileZila (강추)

FileZila를 이용한 AWS 접속하기

방법 2. TightVNC

TightVNC를 이용한 AWS 접속하기

---

7. Flask 서버 설치 및 포트열기

거창하게 적었지만 정말 별 거 없다.

Flask 서버를 사용할 것이므로 Flask 서버가 사용할 포트를 열어주는 과정이 필요하다.

다음과 같이 5000번 포트를 열어주도록 하자.

네트워크 및 보안 보안 그룹 -> 인바운드 규칙을 통해 설정한다.
다른 포트를 열어도 상관없다. 단, 클라이언트에서 접근할 때 및 서버 코드를 작성할 때 주의하자.

이후 AWS EC2 커멘드 창에서 다음을 입력해 Flask를 설치한다.

sudo apt install python3-pip
pip install flask

여기서 YES/NO를 선택하는 부분이 나오면 YES를 쿨하게 입력 해주도록 한다.
이렇게 되면 flask 서버 설치는 완료가 된다. (본인이 짠 서버코드를 aws에 가져와 그대로 실행하면 된다.)

주의사항 🚫

서버 코드 작성 시, 열게되는 주소는 0.0.0.0로 열어준다.

그 이유는..

• localhost / 127.0.0.1 의 문제
  로컬에서 테스트 후 aws로 해당 서버를 올리는 과정에서, 괜히 그대로 127.0.0.1로 했다가 접속이 안되었다.
  당연히 EC2에 그대로 올려서 사용하면 해당 IP는 EC2 즉, local에서만 접근이 가능하므로 외부에서 접근할 수가 없다. (네트워크나 인터넷이 아닌, PC 자체에서만 수신 가능하기 때문)

---

8. YOLO V4 딥러닝 모델 시행하기 위한 Darknet 설치

darknet 설치와 같은 부분은 하고자하는 프로젝트의 목적에 따라 필요성이 다르므로 글을 분리해서 작성한다.

AWS에서 Yolo(darknet)를 통해서 검출해 보기를 참고.

우분투 초기 비밀번호 설정

사실 key로 로그인하므로 비밀번호를 작성할 일은 없다.
하지만 sudo 기능을 사용하기 위해서는 비밀번호가 필요하므로 초기 비밀번호를 정의해주도록 하자.

root 비밀번호 생성하기

1. ubuntu 계정(w. private key)으로 ec2 접속

2. sudo passwd root 입력

3. 아래와 같이 비밀번호 입력, 비밀번호 재확인 과정을 거쳐 root 비밀번호를 설정 할 수 있다.

ubuntu@ip-172-31-3-41:~$ sudo passwd root
Enter new UNIX password:
Retype new UNIX password:
passwd: password updated successfully

ubuntu 계정 비밀번호 생성하기

1. ubuntu 계정(w. private key)으로 ec2 접속

2. sudo su - 입력

3. passwd ubuntu 입력

4. 아래와 같이 비밀번호 입력, 비밀번호 재확인 과정을 거쳐 ubuntu 비밀번호를 설정 할 수 있다.

ubuntu@ip-172-31-3-41:~$ sudo su -
root@ip-172-31-3-41:~# passwd ubuntu
Enter new UNIX password:
Retype new UNIX password:

root 쪽에서 우분투 비밀번호를
우분투에서 root 비밀번호를 설정하는 것으로 보인다.

출처 : https://serina-the-best.tistory.com/16

우분투 명령어

• 디렉토리 강제 삭제 : rm -r 디렉토리 명
• 디렉토리 삭제 : rmdir 디렉토리명
• 파일 이동 : rm 파일 명 디렉토리 위치
• 파일 전체 이동 : rm -R * 디렉토리 위치
• 파일 전체 복사 : cp -r * 디렉토리 위치
• 파일 에디터 : (sudo) nano run.py 또는 vi run.py
  파일 작성 가능 (sudo를 붙이면 보안 파일로 lock걸려서 생성됨)
• make -j 32 : 32개의 cpu를 사용해서 make를 실행 할 수 있다.
• history : 커맨드 결과를 알 수 있음
• !122 : 122번의 커맨드 결과를 가져옴
  귀찮으면 FileZila써도 된다. 하지만 리눅스 명령어 다 까먹을 수 있으니 간단한건 쓰자.

사용사양

• 'launch-wizard-1' 보안그룹 새로 설정

• 스토리지 30G
  

서버 계속 동작하도록하기

백그라운드 동작 중인 서버 종료

단순히 명령어 뒤에 & 를 붙여주면 된다.

hello.c &
[1] 11634
실행시키면 [1] 11634과 같이 [작업번호] 프로세스ID 가 출력된다.

jobs 명령을 입력하면, 백그라운드로 동작중인 프로세스가 출력

만약 백그라운드 프로세스를 일시중지하고싶다면,

우선 fg 명령을 통해 포어그라운드로 프로세스를 가져온 다음 CTRL + Z, C를 입력하여 종료해야한다.

hello.c &
------------------
jobs
[1]+  Running                 hello.c &
------------------
fg 1 #포그라운드로 가져옴

------------------
hello.c
^Z
[1]+  Stopped                 hello.c
------------------

Ctrl + Z 로 일시정지 또는 Ctrl + C 로 종료

참고/출처 : https://velog.io/@jaehyeong/Flask-%EC%9B%B9-%EC%84%9C%EB%B2%84-AWS-EC2%EC%97%90-%EB%B0%B0%ED%8F%AC%ED%95%98%EA%B8%B0
https://samsons.tistory.com/60

결과의 이미지가 회전되는 문제(OpenCV가 없는 경우)

https://webnautes.tistory.com/1433
OpenCV 4버전을 우분투(AWS)에 설치한다.

몽고 db 설치

https://www.cloudbooklet.com/how-to-install-mongodb-on-ubuntu-22-04/