ML/DL

0. 퍼셉트론이란? 퍼셉트론 알고리즘은 Frank Rosenblatt이 1957년에 고안한 알고리즘으로 딥러닝의 기원이 된다 퍼셉트론은 다수의 신호를 입력받아 하나의 신호를 출력한다 퍼셉트론의 출력

다양한 NLP subtasks 의 SOTA model들을 리서치해보는 과제를 4일에 걸쳐 진행했는데, 모두 다른 모델이었지만 Transformer model을 포함한 경우

KLUE-STS 벤치마크를 사용할 일이 있어서, 약간의 공부와 함께 직접 다운로드 받아보고 구조를 살펴보는 시간을 가졌다 공부하기 앞서 아래 reference를 참고해 공부했음을 밝힙니다 STS task 외에도 KLUE 벤치마크 전부분을 쉽게 설명해주니 공부에 많은

Pre-training 사전 학습 모델이란 기존에 자비어(Xavier) 등 임의의 값으로 초기화하던 모델의 가중치들을 다른 문제(task)에 학습시킨 가중치들로 초기화하는 방법이다.

오늘 졸업장 받아왔더니, 진짜 취준생이 되었다는 생각에 ... 정부 R&D 과제를 수행하는 ML/DL 연구직으로 면접을 본지는 3주정도 지났고, 결과는 감사히도 합격이다 면접 문답을 정리해두

NLP 공부를 시작하면서 scikit learn framework 를 많이 잊은 듯 하여, 복습을 시작했습니다. 아래는 오랜만에 scikit learn 사용하며, 인턴뷰 대비를 위한 ML 개념도 같이 정리한 노트북이 게시된 github link 입니다.

잠재 변수(latent variable)는 구성개념(Construct)이 직접적으로 관찰되거나 측정이 되지 않는 변수를 의미한다.사회과학적으로 잠재변수 자체로 전체 통계량을 측정하는 것은 불가능하기 때문에, 관측변수(observed variable)에 의해 간접적으로

딥러닝에서 convolutional neural network (CNN, or ConvNet)은 가상 신경망(ANN)의 한 종류로, 시각 이미지 분석에 주로 사용된다.CNN 또한 Shift 불변 또는 Space 불변 가상 신경망인SIANN으로도 알려져 있다. 이는 co

CNN을 이용한 분류기(classification)도 일반 뉴럴 네트워크처럼 이미지를 입력으로 받아 분류 결과를 출력다만 CNN은 이미지 데이터가 가지는 특성을 활용하여 더 적은 파라미터를 사용하여, 높은 성능을 보임일반적인 신경망(MLP)을 이용해 이미지를 처리할 때