숫자를 원소로 가지는 리스트 또는 배열공간에서의 한 점원점으로부터 상대적 위치같은 모양을 가지는 벡터끼리는 덧셈, 뺄셈, 성분곱(Hadamard product) 가능두 벡터의 덧셈은 다른 벡터로부터 상대적 위치이동을 표현<성분곱>hadamard product원점에
변화율의 극한, 변수의 움직임에 따른 함수값의 변화를 측정하기 위한 도구. 최적화에서 많이 활용한다함수 f의 점 (x, f(x))에서의 접선의 기울기python sympy 라이브러리의 diff로 미분을 계산할 수 있다접선의 기울기의 크기에 상관 없이, 함수값을 증가시키
선형모델과 활성함수를 합성한 함수 $d$개의 변수 $x_1, ..., x_d$ \* $w\_{ij}$ 연산 => $p$개의 선형모델 $o_1, ..., o_p$이때, 선형모델로 출력된 값은 확률벡터가 아닌 경우가 많기 때문에, 특정 벡터가 어떤 class 에 속할 확률
6. 확률론 기초 확률론은 딥러닝을 전반적으로 이해할 수 있게 해 준다. 딥러닝은 확률론 기반의 기계학습 이론에 바탕을 두고 있고, 기계학습에서 사용되는 loss function들의 작동 원리는 데이터 공간을 통계적으로 해석해서 유도하게 되므로, 딥러닝에서 확률론이 꼭 필요하다. 회귀 분석의 경우, 손실함수로 사용되는 L2-norm은 예측 오차 분산을...
통계학 기초 통계적 모델링 : 적절한 가정 위에서 데이터를 표현하는 확률분포를 추정하는 것이 목표 데이터만으로 모집단의 분포를 정확하게 알아내는 것은 힘들기 때문에, 근사적으로 확률분포를 추정한다. (추정 방법의 불확실성을 고려해 위험을 최소화) 모수 모집단의 특성을 나타내는 값 모집단 : 통계적 관찰이 되는 집단 모수적 방법론(parametic) : ...
imageconvolution : 두 함수가 있을 때, 두 함수를 잘 섞어주는 방법 또는 operator로 정의한다. convolution operator는 일종의 shared parameter이다. (cnn에서 처음 나온 개념은 아니다)image1output 값 =
Modern CNN, 1x1 convolution의 중요성 ILSVRC(ImageNet Large-Scale Visual Recognition Challenge) image AlexNet(8 layers, 60M) image 5 conv layer, 3 dense layer (8단) 당시 GPU가 부족했기 때문에, 두 GPU에 따로 training...
이미지 classification : one-hot vector or 내가 원하는 class 갯수만큼 바꿔주는 것detection : bounding box 찾기sementic segmantaion : 이미지 각 픽셀별로 어떤 class에 속하는지RNN : 주어지는 입
용어에 대해 명확한 개념을 잡고 넘어가자.Gradient Descent줄어들었을 때, optimal에 이를 것이라 기대하는 loss function parameter로 , loss function을 편미분한 값으로 학습local minimum을 찾는다.imageGene
08.09 멘토님과의 모의 면접! 멘토님과 모의 interview를 진행했다. 멘토님이 알려주신 팁은 UMPIRE !! 이번 주는 두 명의 캠퍼가 지원자가 되어 인터뷰를 진행했고, 나머지 캠퍼들은 멘토님과 함께 면접관이 되어 질문을 던졌다. 코드의 에러, 시간복잡도를 더 줄일 수 있는 방법 등 다양한 질문이 있었고, 모의 지원자가 된 캠퍼분들은 대부분의 질...
gather (1) 2D tensor에서 대각선 요소 가져오기 (2) 222 3D tensor에서 대각선 요소 가져오기 ① 첫번째 시도. gather 두번 사용하기 ② 두번째 시도. gather + view (3) 임의의 크기의 3D tensor에서 대각선 요소
init : 데이터 위치, 파일 명 등의 초기화 작업. 데이터를 불러온다.len : Dataset의 최대 요소 수를 반환getitem : Dataset의 index 데이터 반환학습 데이터이미지: train-images-idx3-ubyte.gz레이블: train-labe
08.17 멘토님과의 모의 면접 저번 주에 이어 멘토님과 모의 interview를 진행했다. 평소에도 면접, 발표를 두려워하는데, 편한 마음으로 다른 분들의 interview를 듣다 내 차례가 되니 갑자기 떨렸다.🙃 쉬운 문제가 나왔는데도 많이 당황했고 역시 연습이