Neural Networks를 생각해보면 행렬과 비선형 연산이 반복적으로 구성되어 우리가 정의한 것을 출력해내는 함수 근사 모델가장 간단한 Liear Neural Networks를 보면,2차원 데이터가 주어지고$\\hat{y} = wx+b$인 모델이 있으며이루고자 하는
MLP는 각 뉴런들이 선형모델과 활성함수로 연결된 fully-connected layerMLP는 i번째 출력값을 얻기 위해 가중치의 i번째 행에 대한 값이 필요반면, 컨볼루션 연산은 고정된 가중치 행렬(커널)이 이동을 하며 출력값을 계산convolution 연산의 수학
keywoardconvex optimization, nonconvex optimization, gradient free optimizationoptmization에 대해 공부할 때 다양한 용어의 정의에 대해 제대로 이해하고, 용어를 통일 할 것ex) Gradient D
convolution의 시작은 signal processing에서 두 개의 함수를 섞어주기 위한 operatorContinuous convolution$(f\*g)(t) = \\int f(\\gamma)g(t-\\gamma)d\\gamma = \\int f(t-\\ga
해당 강의에서 언급하는 Modern Convolutional Neural Networks는 2018년도 기준으로 설명하는 것이므로 이점을 유의하기 바란다.ILSVRC 대회에서 나왔던 network에 대해 다뤄볼 건데, AlexNet부터 시작하여 해마다 우승했던 Netw
Dense classification, per pixel classification과 같이도 불림이미지의 모든 픽셀이 어떤 label에 속하는지 분류하는 문제사용 예시) 자율 주행, 운전보조장치, 라이다와 같은 센서를 활용하지 않고 이미지만 가지고 하는 여러 문제에 대
sequential data을 다루는데 가장 큰 어려움은? 받아들이는 입력의 차원을 모름..sequential data를 다루는데 가장 큰 문제는 무엇일까?바로 입력의 길이가 제한되어 있지가 않다는 점이다. 따라서 input length가 어떻든지 동작을 sequent
What makes sequential modeling a hard problem to handle?어떤 문장이 있는데 문장의 길이가 잘렸거나(trimmed), 중간 단어가 몇 개 빠졌거나(omiited), 중간에 단어가 섞인 경우(permuted), sequentia
what does it mean to learn a generative model(생성 모델)?Gan이나 VAE 등을 통해 이미지나 문장을 만드는 것 뿐만 아니라 더 많은 것을 포함하는 개념인데, 이 부분은 앞으로의 설명을 참고해보아요...Suppose we are g