🌓 AI/DL - theory

본 딥러닝 글은 "금오공과대학교 컴퓨터공학과 김성영 교수님"의 강의자료를 통해 학습한 내용을 기반으로 작성하였습니다.여러 활용분야가 있지만, 몇가지 예시만 살펴보도록 하자. 학습된 모델을 기반으로 입력 영상에대해서 영상에 포함된 객체의 종류를 구분할 수 있습니다.

저번 part01 딥러닝 활용분야에서 정리하지 못한 부분들을 짧게 정리하고 넘어간다.영상을 설명하는 캡션을 생성하는 작업 (text generation 이라고 부른다)라즈베리 파이에 Image Captioning을 적용이미지를 고해상도로 만드는 작업Resolution(

다중 클래스 분류

본 파트는 쉬어가기 입니다.DB 구축 -> 특징 설계 -> 학습 의 순서로 이루어진다.학습에 필요한 DB를 구축하는 과정이다.기계학습은 이러한 특징을 설계하는 과정이 필요하다.이때 딥러닝과의 차이는 딥러닝은 사람이 직접 특징을 정하지 않고, 인공지능이 스스로 모델에서의

딥러닝이 무엇이고 어디에 활용하는가, 그리고 딥러닝과 머신러닝의 차이점까지 알아보았다.이제 본격적으로 딥러닝을 하기위해 기초적인 수학 지식에 대해서 집고 넘어가도록하자.함수란?X값 하나에 대응되는 Y값 하나가 있는 이러한 이항관계를 함수라고 표현하고 쉽게, $f(x)=

이제 드디어 학습을 한다는 측면에서 딥러닝에 유사한 부분까지 온 것 같다! 뒤에가서 배우겠지만 퍼셉트론을 배우고, Neural Network를 배우면...진짜 딥해지는 것으로 안다.인공지능을 맛보기로 배운지라 정확히는 모르나, CNN, RNN, GCN, GAN..생각만

Linear Regression모델을 만들기 위한 2가지 방법1\. 잔차 제곱합(RSS: Residual Sum of Squares)을 최소화하는 가중치와 바이어스 구함2\. 잔차 제곱합의 그레디언트(gradient) 벡터가 0이 되도록 함 (Gradient desce

현재까지는 $y=wx+b$ 즉 $x$ 한 가지 독립변수를 통해, 종속변수 $y$를 구하였다.(bias는 input 데이터가 나타내는 feature가 아닌 적절한 조정에 사용되는 단순한 파라미터이므로 제외)예를들어, 학생의 공부시간 이라는 x 데이터 하나만으로 과목점수

Logistic Regression에 대해 이해한다. Linear Regreesion과의 차이점, 사용되는 Cost Function(Binary Cross Entropy)을 알아보고, 끝으로 Gradient Descent 과정을 수행한다.

지금까지 학습을 기반으로 모델을 만드는 방법을 학습하였다. 이제 해당 모델이 실제로 잘 작동하는지를 알아봐야하지 않겠는가?따라서 잘 예측하는지(선형 회귀) 또는 잘 분류하는지(로지스틱 회귀)를 평가하는 기준들에 대해 알아보자.모델이 잘 학습되었는지 어떻게 우리는 평가할

gradient descent에 대해서 학습했다.이제 gradient descent의 방법의 2가지에 대해서 배워보자.

아마 본격적인 딥러닝의 시작이될 것 같다.인공 신경망이란 무엇일까?실제 인간의 뇌의 신경계를 구성하는 기본단위인 뉴런을 바탕으로 만든 것이 바로 인공 신경망이다.뉴런인공 신경망!\[]

hidden layer를 추가한 형태를 바로 MLP라고 한다고 했다. 그럼 이러한 MLP에 대해서 좀 더 알아보자!1969년 Perceptrons 책에서 XOR 문제는 perceptron으로 해결하지 못하는 것을 수학적으로 증명했다.이는 지난 퍼셉트론에 관한 글에서 그

오류역전파가 나오게 된 계기가 무엇일까?1969년 Perceptrons 책에서 XOR 문제는 perceptron으로 해결하지 못하는 것을 수학적으로 증명.XOR 문제 해결을 위해서는 multilayer perceptron (MLP) 필요하다는 것을 알게 됨.그러나, M

기울기 소실의 문제는 part13. 오차역전파의 과정에서 이러한 문제가 발생한다.오차 역전파에 대해서 생각해보자.단순하게 오차역전파를 재 정리한다면, 최종적으로 나온 $Loss$를 편미분한 값을 계속해서 뒤로 미분 또 미분하여 update에 사용하도록 전달하는 방식이다

tensorflow를 활용하여 간단한 딥러닝 모델을 설계하고 수행시켜 본다.전체 소스 코드코드를 뜯어서 하나하나 살펴보도록 한다.환자의 데이터를 불러와 구분하여 저장한다.파이썬의 인덱싱 문법을 이용하여 인덱싱을 처리하는 것이 주목하자.인덱스는 0부터 시작이므로 :,

다중분류 문제를 해결하는 Softmax 함수에 대해서 알아보자.특징의 유형부터 살펴보도록 한다.특징의 유형은 다음과 같이 3가지로 분류된다.기존 로지스틱 회귀를 다시 살펴보자.이는 이진 분류가 가능하도록 하는 모델이였다.로지스틱 회귀는 시그모이드 함수의 수식을 사용하며

Introduction 이상탐지(감지)란 무엇인가? 예상되지 않은 ㅍ턴을 데이터에서 찾아내는 것 정상과 비정상을 구분해내는 것 비정상, 특이, 이상치 라는 용어를 사용한다. 이상 데이터의 종류 Global outlier 직관적으로 떠오르는 정상 상태와 구분되는 특이한

과대적합과 과소적합 그리고 해결하기위한 방법에 대해서 알아보자.모델의 용량이 작아서 오차가 커지는 현상을 말한다.표현하고자 하는 data를 표현하는데 있어서 fitting이 적게 이루어 진 경우 이러한 현상이 나타난다.모델이 너무나 학습 데이터 세트에 맞춰 진것을 의미

이미지 분류 문제에 주로 사용되는 CNN에 대해서 알아보자!가장 보편화된 CNN의 구조라고 할 수 있다.Convolution Layer는 특징을 추출하는 역할Pooling Layer는 분류를 잘할 수 있도록 도와주는 역할.(과적합 방지 및 전체 매개변수를 줄여 연산량을

CNN을 이해해 보았으니 이제 활용해볼 차례이다.한번 활용해보자!이미지넷 경진대회(ILSVRC)의 대표적인 모델이고, 가장 넓게 활용되고 있는 CNN의 대표적인 모델 VGG16을 알아보고 활용해보자.2014년 이미지넷 경진대회(ILSVRC)에서 2등을 차지한 모델이다.

자연어 처리에 대해서 알아보고 MLP를 통하여 영화리뷰 문장에 대한 긍정/부정을 예측해본다.Natural Languate Processing (NLP)컴퓨터가 인간이 사용하는 언어(음성이나 텍스트)를 이해하고 분석하는 기술자연어로 만들어진 모든 데이터에 대해서 이해하고

RNN 즉, 순환 신경망을 왜 쓰는 지 알아보고, 이해해보자.이전 데이터를 기억하여 다음 데이터의 입력으로 넣어 출력에 영향을 줄 수 있는 네트워크 구조주로 시퀸스 데이터(문장)나 연속적인 시계열 데이터에 쓴다.일반적인 CNN 모델을 생각해보자. 해당 합성곱 layer

GAN이 무엇인지에 대해서 학습하고, 생성자와 판별자가 어떤 역할이 있는지 알아보도록 하자!영상을 생성해내는 모델이다.그냥 이미지를 회전, 축소등을 적용하는 Data Aurgument와는 다른, 기존 데이터 분포를 학습시켜 새로운 영상으로 재창조 하는 것이다.생성자와