Iterative Method:이전 시간의 값을 재귀적으로 넣어서 시계열의 예측을 수행하는 것이다.따라서 이전의 모든 시간에 대한 정보가 필요하다.예를 들어서, t시점에서 f(t+h)를 예측하는데 f(t+h-1),f(t+h-2),..의 값들이 필요한 것을 말하고, “T

딥러닝 Basic딥러닝 학습과정활성화 함수목적함수Optimizer 와 Gradient DescentBackPropagation for matrix computing딥러닝 모델RNNTBPTTLSTMEncoder-Decoder구조Deep AR 논문 review다음과 같은

Feature Importance 우선, feature importance에 관해서 알아보자. 먼저 트리 기반 모델들(random forest, xgboost, lightgbm 등)은 기본적으로 feature importance를 API 혹은 모델 내장 함수로 제공한다

이 글의 References XAI관련 Velog는 XAI를 공부하기 위해서 위의 책을 참고하고자 했는데, 너무 제한적인 설명때문에 구글링을 찾아봤고 일부는 직접 논문을 읽었다. 시작하겠다. Introduction XAI는 Explanable AI로써 우리는 딥러닝

여태까지 했던 주제(Informer TFT)와 매우 상반되는 주제이다. 사실 이전까지 했던 Transformer 기반의 TimeSeriesForecasting은 Attention에 기반을 두면서, LSTF에 강점이 있었다.이번 포스팅에서는 이러한 기존의 Transfor

Abstract Multi-Horizon Forecasting은 보통 정적인 변수, 알고 있는 미래의 input, 다양한 Covariates, 과거에 대해서만 관찰된 exogenous Time Series까지 이와 같이 다양한 Input들이 복잡하게 섞인 형태의 inp

22년 11월에 읽었던 논문을 거의 1년이 지나가서야 블로그에 업로드 하게 됐다. 이미 word로 정리는 해뒀지만 때를 놓쳤다가 복습할겸해서 업로드를 한다. 이 논문 말고도 쌓여있는 논문이 너무 많다. Abstract Long Sequence Time-Series Fo

엔트로피는 불확실성의 정도이다. 즉, 확률과 연관된 개념으로써엔트로피가 높다는 것은 미래의 사건이 뭐가 나올지 불확실한정도가 크다는 것이고 낮다는 것은 미래의 사건이 뭐가 나올지 비교적 확실하다는 것이다.엔트로피는 확률분포와 연관해서 기억하면 좋을 것이다.위의 두 확률

최근에 다른 실험을 하던 도중에 결과가 내예상대로 안나오는 부분을 발견하고 코드를 유심히 살펴보았는데, 이전에 작성한 코드들에서도 똑같은 문제가 발생했을 거라는 생각이 들어서 해당 문법을 살펴본 결과 역시나 그랬다.. 이미 교수님께 결과 전송을 마치고 같이 분석도 한

평소에 pytroch_forecasting Library를 쓰면 보통 pytorch_lightning과 결합하여서 써서, auto_lr_find를 이용해서 최적의 learning rate를 찾곤했다. 하지만 내가 직접 모델을 구현할때는 보통 pytorch_lightni

최근에 특정 layer층의 가중치를 Masking하는 방법에 대해서 알아보고 있던 도중에discussion을 확인하게 됐다. 이전에도 autograd가 gradient를 조정하는 역할을 하는 것을 알고는 있었는데, 정확히 알지는 못했기 때문에 이 기회에 정리해보고자 한

Heap에 관한 설명은 간략히 하고 heapq내장모듈을 사용하는 방법을 작성해보겠다.heapq는 Min Heap 자료구조를 제공한다.우선순위큐 Heap을 생각하면 된다. Heap의 주요 개념을 간략히 살펴보면 다음과 같다.Heap자체는 우선순위큐를 구현하기 위한 자료구

ARIMA의 Fit과정?(출처 statsmodels에서 제공하는 코드)Statespace를 Default메소드로써 사용하고 이때, GLS(일반화된 최소제곱법)데이터가 이분산성을 가짐 사용하여 계수를 추정함. 이외에도, Yuler Walker Equation과 같은 것을

수학적인 베이스는 한양대학교에서 오픈강의로 열린 곳을 참고 했습니다 링크텍스트 혹시나 질문이 있으시다면 dsd0919@naver.com 으로 메일 보내주시면 최대한 답변 드리겠습니다 Random Walk란? 시계열 데이터 $X_t$가 아래와 같은 모형을 따른다고 해보

95/100으로 합격했다일단 이 시험의 장점은 강의를 듣게되면 오버해서 학습을 하게되고, 시험은 그에 비해 쉬운 수준에 있다는 것이다.나는 이 시험이 오픈북인 것을 알고 있음에도 구글링을 사용하지 않았는데, 왜냐면 주피터 노트북의 기본기능으로 충분하게 코드를 작성할 수

시작해보겠다. 이 주제에 관해서 맨 마지막에 작성하는 이유는 실제로 판다스 라이브러리의 메소드들은 워낙 방대한 내용으로 작성돼있고, 실제로 다양한 name으로 같은 기능을 수행할 수 있기 때문에, 나는 필요한 기능을 그때그때 찾아보고 많이쓰는건 기억하면서 사용해왔었다.

나는 DL모델을 주로 파이토치를 이용해서만 사용해왔다. 파이토치로 내가 모델을 구성한이후 loss.backward()를 이용해서 모델의 가중치를 업데이트 하는 방식을 사용해왔었다. 또한 pytorch_lightning을 이용해서 모델을 훈련시켜보기도 했다. 각각에 대한

나는 주로 다루는 것이 파이토치 딥러닝을 주로 다루어 왔다. 이번 방학에 기본기를 다지고자 AICE자격증을 신청했고, pandas와 matplotlib seaborn에 대해서 기본기를 숙달하기 좋은 기회였다. 그에 비해 너무나 방대한 ML DL은 사용해보는 정도의 수준

책 파이썬 알고리즘 인터뷰의 3장에서 나온 파이썬 관련요소의 나머지를 한번 뜯어보겠다.먼저 은연중 넘어간 Lambda Function이다.사실 실제로 코딩을 할때, 이렇게 간단한 함수를 단독으로 사용하는 경우는 많이 없다. 따라서 사용경험은 많이 없는데, 이 기회에 정

PEP란? Python Enhancement Proposals 로 파이썬 개발 제안서이다. PEP는 새로운 기능을 제안하고 커뮤니티 의견을 수렴하여 파이썬의 디자인 결정을 문서화하는 파이썬의 주요 개발 프로세스를 일컫는다. 뒤에 번호를 부여하여 PEP 0 이런식으로 부