Infra
1.# VS Code 환경 설정
https://code.visualstudio.com/VS code의 디렉토리를 그대로 레퍼지토리로 연동가능source control>clone
2.# [구현] AWS EC2 모델 서빙/가상환경
EC2 인스턴스 생성free tier 인스턴스로 생성시 pem파일 받아 ssh 접속 -> 인스턴스 서버의 공인IPv4 주소인바운드 규칙에서 로컬pc 공인IP에 22포트 보안규칙 생성(ipconfig는 private IP이고, public IP로 지정해야함)볼륨 추가se
3.# [유틸] infra 명령어
4.# [기술] docker
Docker
5.# [기술] brew/llama-cpp
홈브루는 자유-오픈 소스 소프트웨어 패키지 관리 시스템의 하나로서 애플의 macOS 운영 체제의 소프트웨어 설치를 단순하게 만들어준다.linux에서 홈브루 패키지 관리자를 사용해 llama-cpp 설치brew는 소스를 다운받아서 컴파일하는 방식으로 동작하므로, 사전에
6.# [기술] ec2 instance GPU
인스턴스는 기계 학습 추론 및 그래픽 집약적 워크로드의 속도를 개선하는 데 도움이 되도록 설계되었습니다.기능: 2세대 인텔 제온 스케일러블 프로세서(캐스케이드 레이크 P-8259CL)최대 8개의 NVIDIA T4 Tensor 코어 GPU최대 100Gbps의 네트워킹 처
7.# [기술] 백그라운드 프로세스
위와 같이 -d 옵션을 통해 컨테이너를 백그라운드 실행할 수 있지만, 컨테이너 실행과 동시에 프로그램이 실행되지 않는다면 바로 종료된다.따라서 sleep infinity 옵션을 줌으로써 프로세스와 관계 없이 실행이 유지되는 컨테이너를 관리할 수 있다. 프로세스 실행 후
8.# AWS Cloud Practitioner_module1_AWS 개요
클라이언트사람이 컴퓨터 서버에 요청을 보내기 위해 상호 작용하는 웹 브라우저 또는 데스크톱 애플리케이션서버일종의 가상 서버인 Amazon Elastic Cloud Compute(Amazon EC2)와 같은 서비스(AWS에서)상호작용클라이언트가 특정 요청시 서버는 요청을
9.# AWS Cloud Practitioner_module2_클라우드 컴퓨팅
온프레미스 리소스 사용의 단점하드웨어 구매서버 배달 지연서버 설치필요한 모든 구성 수행EC2 인스턴스 사용의 장점인스턴스 프로비저닝 간소화워크로드 종료시 인스턴스 사용 중지로 비용 절약컴퓨팅 시간에 대해서만 비용 지불필요한 서버 용량에 대해서만 비용 지불작동 방식인스턴
10.# AWS Cloud Practitioner_module3_global infra
리전이라 부르는 대규모 그룹에 자체 데이터센터를 구축해 재난발생에 대비비즈니스 트래픽 수요 지점과 가까운 곳에 리전 구축각 리전에는 애플리케이션을 실행하는 데 필요한 컴퓨팅, 스토리지 및 기타 서비스 구비된 데이터센터 설치각 리전은 다른 리전과 격리됨으로써 데이터 유입
11.# AWS Cloud Practitioner_module4_network
네트워킹
12.# AWS Cloud Practitioner_module5_storage, database
Amazon EBS(Elastic Block Store)
13.# AWS Cloud Practitioner_module6_보안
공동 책임 모델
14.# AWS Cloud Practitioner_module7_모니터링 및 분석
Amazon CloudWatch
15.# AWS Cloud Practitioner_module8,9,10,11
AWS free tier
16.# AWS Cloud Practitioner_오답정리1
Q. 공간이 제한된 환경에서 사용할 수 있는 테라바이트 급 데이터 스토리지를 확보하고 AWS로 전송할 수 있는 서비스A. AWS Snowcone기존 데이터 센터 외부에서 사용할 수 있도록 제작됨엣지 컴퓨팅, 엣지 스토리지 및 데이터 전송장치로 구성AWS Data Pip
17.# AWS Cloud Practitioner_오답정리2
Q. EC2 인스턴스의 공급과 수요에 따라 가격을 조정하는 구조A. 스팟 인스턴스예비 컴퓨팅 용량으로 스팟 인스턴스 요청을 생성해 사용온디맨드 인스턴스실행하는 인스턴스 유형에 따라 시간 또는 초 단위로 컴퓨팅 용량 비용 지불Q. 마이그레이션이 안전하고 효율적인지A. 보
18.# 컨테이너 기반 가상화
온프레미스(직접 구매/설치/관리) -> 클라우드(필요한 만큼 할당 및 비용지불/API와 SDK를 이용한 컴퓨팅 자원의 자동화)가상머신(하드웨어 가상화 기반/스케일 업아웃을 가상머신 단위로 확장) -> 컨테이너(운영체제 기반 가상화로 컨테이너 패키지 가상화/빠른 확장성/
19.# 컨테이너를 구성하는 리눅스
리눅스 배포판
20.# Django 기반 웹 어플리케이션 컨테이너환경 구축
어플리케이션 아키텍처: 애플리케이션을 설계/구축하는데 사용하는 패턴과 기술Web/Business/Data tier단순한 Django WAS서버 구동db 볼륨 생성https://docs.docker.com/engine/install/linux-postinstal
21.# go 기반 컨테이너환경 구성
공식홈페이지 접속: https://go.dev/클라우드 서버에 다운로드하므로 tar 다운로드 링크 복사이후 VS code extension에서 go plugin 설치(클라우드에)main.gomain.go 실행외부패키지 import패키지 의존성 관리main.go
22.# 빠르게 AWS 서버구축부터 llm배포, docker를 활용한 서빙까지
인스턴스 구동과 설치 ec2 인스턴스 시작 본 포스팅에서는 그나마 저렴한 GPU가 탑재된 g4dn.xlarge 인스턴스를 사용하는데, vCPU 개수를 4로 증설하는 절차가 필요하다. 아래 글 참고해 진행(하루 이상 소요됨) https://velog.io/@ahn_
23.# kubernetes intro
컨테이너화된 애플리케이션을 자동으로 배포, 확장, 관리하는 오픈소스 플랫폼클러스터 형태로 여러 노드에 걸쳐 애플리케이션을 배포/관리로컬 환경에서 쿠버네티스 클러스터를 실행할 수 있는 경량 툴실습이나 테스트 목적으로 개발된 단일 노드 쿠버네티스 클러스터를 제공쿠버네티스