PyTorch

이번 포스팅에서는 파이토치로 간단한 신경망을 구축해보며 기본적인 파이토치의 신경망을 이해해보도록 하겠습니다. 1. Linear Layer 먼저 파이토치 모듈을 불러와야 합니다. 파이토치의 torch.nn 모듈에 정의된 블록 또한 사용할 것이므로 이 모듈 또한 불러옵니다. nn.Linear(Hin, Hout)을 사용하여 선형 레이어를 생성할 수 있습니...

이전에 backward() 함수를 사용하여 기울기를 계산할 수 있음을 살펴봤습니다. 하지만 기울기만으로 모델을 학습시키는 것은 충분치 않습니다. 모델의 파라미터를 업데이트하는 방법도 알아야 합니다. 이때 옵티마이저가 필요합니다. torch.optim 모듈에는 사용할 수 있는 여러 옵티마이저가 포함되어 있습니다. 대표적인 예로 optim.SGD와 o...

이번 포스팅의 목표는 문장 내에서 위치에 해당하는 단어를 찾는 모델 을 학습하는 것이다. 왜 이 태스크를 Word Window Classification이라고 부를까? 모델이 위치에 해당하는 단어를 찾을 때 그 단어 하나만 보는 것이 아닌 단어 주변 맥락도 함께 고려 할 수 있도록 하기 위함이다. 따라서 주변 단어도 인식해야 하...