profile
그러나 먼저 된 자로서 나중되고 나중 된 자로서 먼저될 자가 많으니라(마:19:30)

강화학습 기초 [2] - Unity와 ML agents

Reinforcement Learning : 강화학습Proximal Policy Optimization(PPO)Soft Actor Critic (SAC) Curiosity based Exploration (ICM, RNd): Hard Exploration (보상을 얻

2022년 4월 24일
·
0개의 댓글

강화학습 기초 [1] - 기초 용어 및 기초 이론

강화학습 기초용어 MDP (Markov Decision Process) 강화학습은 순차적 행동을 결정하는 문제를 푸는데, 그때의 기초가 되는 기법 구성 요소: 상태, 행동, 보상함수, 상태 변환 확률, 감가율 에이전트 Agent 강화학습에서 의사결정

2022년 4월 19일
·
0개의 댓글
post-thumbnail

Transformer

RNN을 사용하지 않고, 인코더와 디코더, 그리고 인코더에서 정보가 손실될 수 있음을 보완한 어텐션 구조로 이루어진 seq2seq모델.Ecoders & DecodersEncoder (N개): 입력 sequence를 하나의 벡터로 압축.Decoder (N개): 출력된 벡

2022년 3월 2일
·
0개의 댓글

Quantization [3]

Edge Computing시, 즉 딥러닝 모델을 디바이스(IOT, 임베디드 디바이스)에 적용(경량화,최적화)할때의 quantization 라이브러리에는 대표적으로 TensorRT, TFlite가 있다.Converter: 성능은 유지하면서, Interpreter가 사용할

2022년 3월 1일
·
0개의 댓글

Quantization [2]

기존 high precision(일반적으로 fp32)의 신경망 wwights와 activation을 더 적은 bit(low precision)으로 변환하는 것.Post Training Quantization (PTQ): 학습 후에 quantization paramete

2022년 2월 28일
·
0개의 댓글

Heatmap을 이용한 Pose Detection

Deep poseCNN을 통해 2k개의 관절 좌표를 추출하고, 좌표를 중심으로 bounding box를 만들어, 다시 CNN을 통과하여 좀 더 정교한 좌표를 예측하는 방법.한계점: 관절의 공간전 상관관계를 고려하지 않기 때문에, 이미지상에 보이지않는 관절에 대해서 예측

2022년 2월 27일
·
0개의 댓글

Pose Detection

Pose Estimation = keypoints detection = pose estimation분류와 비슷하지만, upsampling한다는 다른 점이 있음학습요소사람의 위치정보 (bbox)관절별 좌표모델 계층single\--- direct regression\---

2022년 2월 21일
·
0개의 댓글

정상 데이터로만 결함을 검출하는 Anomaly Detection

AI가 스마트팩토리 등의 산업에 적용될때, 정상 데이터와 결함 데이터를 학습(Supervised Learning)하여, 결함의 유무를 판단하는 방법을 많이 사용하고 있지만, 실제 생산과정에서 결함이 있는 데이터를 구하는 것은 쉽지 않고, 그 데이터셋은 불균형(Class

2022년 1월 19일
·
0개의 댓글

클래스의 불균형에 대응하기

데이터의 클래스가 불균형을 이룰때, F1-Score를 모델의 성능 지표로 사용weight balancingoversampling과 downsampling(정확도가 떨어지는) 특정 클래스에 더 큰 가중치를 두고 loss를 계산하며 학습하는 방법.focal lossobje

2022년 1월 18일
·
0개의 댓글

모델을 효율적이고 가볍게

: 비슷한 수준의 성능을 낼때, 더 적은 파라미터와 연산량을 가질 수 있도록 설계layer, network architecture,loss function optimizer hyper parameter, data에 따라서 달라질 수 있다.Deep compressionP

2022년 1월 17일
·
0개의 댓글

Product Serving - 완성도 높이기

server형태모놀리식 아키텍처(Monolithic Architecture): 모두 하나에서 처리하는 경우(큰 범주로 모두 서버)마이크로서비스 아키텍쳐(Microservice Architecture): 개별 서버로 구성하고 서로 통신하도록하는 경우REST형식의 API각

2022년 1월 16일
·
0개의 댓글

Product Serving - 프로토 타입부터 점진적 개선

프로토타입 작성을 위한본 목적: 대시보드jupyter notebook 결과를 쉽게 웹형태로Ipywidget, Ipyleaflet등 사용가능고유한 템플릿 생성 가능너무 쉬운 러닝 커브웹서비스 형태대안R의 ShinyFlask, FastAPI:백엔드를 직접구성 + 프론트엔드

2022년 1월 16일
·
0개의 댓글

Model Serving

Production(Real world)환경에 모델을 사용할 수 있도록 배포머신러닝 모델을 개발하고, 앱/웹 들에서 사용할 수 있게 만드는 행위서비스화라고 표현 가능머신러닝 모델을 회사 서비스의 기능 중 하나로 활용방식: Online/ Batch/ Edge(모바일기기,

2022년 1월 16일
·
0개의 댓글

MLOps

문제 정의EDAFeature EngineeringTrainPredictDeployMLOps = ML (Machine Learning) + Ops (Operations): 머신러닝 모델을 운영하면서 반복적으로 필요한 업무를 자동화 시키는 과정. 머신러닝 엔지니어링 + 데

2022년 1월 16일
·
0개의 댓글

딥러닝 개괄적 복습

ML Problem 데이터 모으기 함수 결정 : 모델,loss 결정. Loss 함수를 쓰는 가정(backpropagation의 조건): 학습 샘플들의 loss는 가각의 샘픔들의 loss합이랑 같다. 출력값과 정답에 대해서만 loss를 구한다. loss함수의 결정

2022년 1월 13일
·
0개의 댓글

Docker

Docker 가상화 개발할 때, 서비스 운영에 사용하는 서버에 직접드러가서 개발하지 않음. local 환경에서 개발하고 완료되면 staging서버, production 서버에 배포. 개발을 진행한 local 환경과 production서버 환경이 다른 경우 OS가 다르기 때문에 라이브러리, 파이썬 등을 설치시 다르게 진행. 또는 같아도 올바르게 작동하지 않을...

2022년 1월 11일
·
0개의 댓글

Quantization [1]

Quantization (signal processing): mapping input values from a large set to output values in a smaller set ex) error는 구간간격의 반. (neural network): 모델의

2022년 1월 11일
·
0개의 댓글

Tensor Decomposition

Tensor Decomposition : 연산들의 조합으로 한 tensor를 표현하는 방법. matrix decomposition의 generalization이라 할 수 있음. Tensor rank decompistion : (=cp decomposition) Truc

2022년 1월 11일
·
0개의 댓글

[P_stage] - week 17 day 3

[week17] 2021/11/24 모델 경량화 1강 - 모델 경량화 기법 101 - CV 어떤 경량화를 적용해야하는가? 주어진 환경에 따라 방향성이 달라진다 Deploy 환경(CPU/GPU) 주된 문제 상황(latency를 줄여한다/ Edge device여서 Model size를 줄여야한다) 경량화 요구 정도(성능 drop을 감수할것인...

2021년 11월 24일
·
0개의 댓글

[P_stage] - week 17 day 2

[week17] 2021/11/23 오피스아워 SqueezeNet AlexNet수준의 정확도 50배 작은 parameters, 0.5Mb미나의 크기 작은 CNN의 이점 분산학습시 모델의 파라미터 수와 서버간 통신overhead가 비례하므로, 빠르게 분산

2021년 11월 23일
·
0개의 댓글