활성화 함수의 정의, 종류 및 파이썬으로 각 함수의 plot을 그리는 방법에 대해 알아보겠습니다. 활성화 함수란 뉴런끼리의 화학 신호가 전달 될 때 이용되는 활성화 함수에서 착안해 신경망 학습에서 입력받은 신호를 학습에 이용될 수 있게 출력 신호로 처리하는 함수를 뜻합
이미지 데이터는 픽셀의 집합으로 볼 수 있습니다. 픽셀(pixel)이란 픽처(picture) 와 엘리먼트(element) 의 합성 조어로 이미지를 구성하는 최소 단위라고 할 수 있습니다. 픽셀 수가 많아질수록 화질(resolution)이 더 좋아집니다. 흑백 이미지의
BatchNorm2d 함수는 배치 정규화를 위한 함수입니다. layer 가 깊은 딥러닝 모델은 복잡하고 오버피팅이 일어나기 쉽습니다. 특히, 데이터 전처리 방식에 따라 모델의 결과는 큰 차이를 가집니다. 배치 정규화가 나오게 된 배경을 이해하기 위해서는 Covari
transform = transforms.Compose( transforms.Resize(256), transforms.RandomCrop(227), transforms.ToTensor(), transforms.Normalize((0.5, 0.5, 0.5), (
RNN은 반복적인 데이터, 순차적인 데이터를 학습하는 데 특화되어 발전한 인공 신경망의 한 방식입니다. 여기서 순차적인 데이터(Sequential Data)는 앞뒤 순서가 중요한 데이터로 이해할 수 있습니다. 즉, 어떤 순서로 오느냐에 따라서 단위의 의미가 달라지는 데
FastText 는 구글에서 만든 Word2Vec의 단점을 보완하기 위해 페이스북이 제안한 모델입니다. Word2Vec의 치명적인 단점은 학습되지 않은 모르는 단어에 대해서는 단어 벡터값을 계산할 수 없다는 것입니다. 또한, 빈도 수가 적은 단어에 대해서도 학습이 불안