# Deep Learning
[논문 리뷰] R-CNN (Regions with CNN features)
RCNN은 컴퓨터비전에서 CNN을 사용한 obejct detection 기술 초기에 엄청난 영향을 미친 논문이다. 회사가 CNN 기반 비전기술로 이 논문의 영향이 있기에 읽게 되었다. 이 논문을 구체적으로 읽기보단 전반적인 시스템이 어떻게 돌아가는지에 대해 초점을 두고
[논문리뷰] EDSR
본 포스팅은 글쓴이의 뇌피셜이 10%정도 들어가 있습니다. 쓴 내용이 대부분 논문에서 참고하였으나, 이해하기 어려운 부분은 뇌피셜로 이해하려고 노력했기 때문에 틀린 정보가 있을 수 있습니다. 피드백은 언제나 환영입니다.그동안 다양한 Deep Convolution 신경망
.png?w=120)
[내멋대로해석하는]Enhanced Deep Residual Networks for Single Image Super-Resolution A.K.A EDSR
최근 초해상화 관련 논문은 deep convolutional neural networks (DCNN)을 이용한 모델들이 많았다. 특히, residual learning 기술들이 초해상화 성능 향상에 크게 기여했다.
Generative Adversarial Nets; GAN (NIPS'14) 논문리뷰
Adversarial Learning을 생성모델에 처음? 제대로 적용한 새로운 프레임워크generator와 discriminator 두 모델을 경쟁적으로 학습시켜 둘 모두를 동시에 최적화함.데이터의 분포에 대한 명시적인 가정없이 데이터 생성이 가능함.그 당시 생성모델연
[Computer Vision] Super Light FSRCNN
Computer Vision 분야 중 하나인 Super Resolution에서 기존 FSRCNN과 FSRCNN-s 모델을 설명하고, 더욱 경량화된 FSRCNN-x 모델을 제안함
[내멋대로해석하는] Accelerating the Super-Resolution Convolutional Neural Network A.K.A FSRCNN
딥러닝 기반의 SRCNN 모델이 super-resolution 분야에서 눈에 뛰는 속도와 품질결과를 보여줬었다. 그러나 real-time(24fps)으로 구현하기에는 높은비용의 연산량 때문에 턱없이 부족했다.
[코드와 함께보는 SR] RCAN - Residual Channel Attention Network
본 포스팅은 글쓴이의 뇌피셜이 10%정도 들어가 있습니다. 쓴 내용이 대부분 논문에서 참고하였으나, 이해하기 어려운 부분은 뇌피셜로 이해하려고 노력했기 때문에 틀린 정보가 있을 수 있습니다. 피드백은 언제나 환영입니다.CNN에서의 네트워크 층의 깊이는 Super-res
[NLP] Pre-trained Methods (ELMo, GPT, BERT)
2017년 transformer 논문이 게재된 후 다양한 pre-trained model들이 제시되었다. 그 중 이번 글에서는 대표적인 pre-training method인 ElMo, GPT, BERT를 짧게 소개하려고 한다. ELMo ELMo는
[내멋대로해석하는] Image Super-Resolution Using Deep Convolutional Networks A.K.A SRCNN
이 논문은 최초로 딥 러닝을 이용한 새로운 super-resolution(초해상화) 기술을 제안한다. SR 저해상도 이미지에서 고해상도 이미지를 복원하는 기술이다.
딥러닝 Quantization(양자화) 정리
모델의 파라미터를 lower bit로 표현함으로서 계산과 메모리 access 속도를 높이는 경량화 기법보통 32비트 부동소수점 연산을 8비트 정수로 변환하는 방식 사용 \- pytorch, tensorflow의 default data type = fp32Quant
[내멋대로해석하는] Depth-wise Convolution and Depth-wise separable Convolution
Over-fitting 확률을 낮추는 방법은 무엇이있을까?
Deep Learning from Scratch 밑바닥부터 시작하는 딥러닝(2)
이 포스트의 내용과 코드 예제는 <Deep Learning from Scratch 밑바닥부터 시작하는 딥러닝> 을 참고하였습니다.Chapter.3 에서는 본격적으로 Neural Network 에 대하여 시작한다. 퍼셉트론의 개념을 확실히 잡았다면, 그리고 행렬에
Deep Learning from Scratch 밑바닥부터 시작하는 딥러닝(1)
Chapter.1 은 파이썬 기초 문법에 대한 내용이라 빠르게 skip 하고 chapter.2 부터 진행을 할 것이다! Index 2.2 Perceptron 이란 2.2 단순한 논리 회로 2.2.1 AND Gate 2.2.2 NAND Gate 와 OR Gat
Deep Learning from Scratch 밑바닥부터 시작하는 딥러닝(0)
졸업 후 업무 관련이나 커리어 개발 공부는 주로 인강이나 github 소스코드를 참고 하며 공부했고, 디버딩의 모든 인사이트는 stackoverflow 였다. Hardcopy 책을 보며 공부한게 너무 오래된거 같기도 하고, Back to basics 마인드로 책을 구매
논문리뷰 [Visualizing the Loss Landscape of Neural Nets]
https://papers.nips.cc/paper/2018/file/a41b3bb3e6b050b6c9067c67f663b915-Paper.pdf