Remaining useful life predictions for turbofan engine degradation using semi-supervised deep architecture

지도학습 : 정상 데이터 + 비정상 데이터 + 정답 존재
비지도학습 : 정상 데이터 + 정답 존재하지 않음 => 특징을 스스로 학습한다

지도학습의 단점은

• 비정상 sample를 구하기 힘들다
• 새로운 이상패턴이 발생하게되면 새로 학습을 진행해야 한다.

이상탐지(Anomaly Detection)

• 이상 탐지는 설비의 데이터를 통해 이상 패턴(이상징후), 개체 등을 찾아내는 것을 의미한다.
• 시계열 데이터가 발생하는 설비에서 특정 부품의 이상이 발생하게 되면 그림의 오른쪽 부분과 같이 이상 패턴을 발생하게 되는데, 이런 이상 패턴을 즉각적으로 잡아서 고장을 사전에 방지하는 것이다.

더 찾아볼 키워드 : vae anomaly detection, lstm anomaly detection, piece-wise linear degradation model, run-to-failure

1. Introduction

기존의 prognosis 알고리즘은 오늘날의 순차적 데이터에서 증가하는 복잡성을 처리할 수 있는 용량이 감소하여 어려움을 겪고 있다. 딥러닝(DL)은 최소한의 인적 입력으로 매우 비선형적이고 다양한 순차 데이터를 처리할 수 있는 잠재적 영역으로 부상했다. 심층 아키텍처는 훈련 프로세스에서 최적화하기 어려운 많은 다양한 하이퍼 매개 변수를 도입한다. 따라서, 이 연구는 하이퍼 파라미터를 효율적으로 최적화하기 위해 유전 알고리즘(GA) 접근법을 제안한다
DL 기술은 엔진 열화 역학에 대한 사전 지식 없이 규칙을 예측한다. 기능 공학보다는 DL 기법의 선택과 설계에 문제가 있다. 그러나 CNN과 LSTM은 모두 순수하게 지도된 학습에 의존한다. RUL 예측 정확도는 구성된 훈련 데이터 레이블의 품질에 크게 의존한다. 대조적으로 unsupervised DL 기술은 raw 교육 데이터에서 높은 수준의 추상적 특징을 자동으로 추출하는 초기 사전 훈련을 도입한다.
따라서 비지도 및 지도(준지도) 학습의 조합은 글로벌 훈련 목표를 최소화하기 위해 지도 미세 조정이 수행되기 전에 가중치가 양호한 국소 최소값 근처 영역에서 초기화되기 때문에 훨씬 더 높은 RUL 예측 정확도를 가질 수 있다.
새로운 장비에서 고품질 고장 실행 레이블링 훈련 데이터를 쉽게 얻을 수 없다. 그러나 준지도 설정에서 감독되지 않은 사전 훈련은 미세 조정 절차에서 레이블링된 훈련 데이터의 양이 감소하더라도 높은 RUL 예측 정확도로 수행할 수 있는 잠재력을 가지고 있다. 데이터는 몇 가지 작동 조건과 고장 모드에 따라 달라진다. 이 문제에 대처하기 위해 초기 비지도 사전 교육 단계를 활용할 수 있다. 비지도 사전 훈련은 감독된 미세 조정 전에 더 많은 성능 저하 관련 기능을 추출하므로, 기본 성능 저하 현상을 더 잘 이해하기 위해 전체 아키텍처를 지원할 수 있다.

• GA 접근 방식은 딥 아키텍처에서 하이퍼 파라미터를 효과적으로 조정한다.
• 준지도 학습은 훈련 데이터가 완전히 레이블링될 때 여러 작동 조건과 고장 모드를 가진 다변량 시계열 데이터의 지도 학습과 비교하여 RUL 예측 정확도를 향상시킨다.
• 준지도 학습은 미세 조정 절차에서 레이블링된 훈련 데이터가 줄어들 때 지도 학습에 비해 더 높은 RUL 예측 정확도를 수행한다.

2. Related Work

3. Proposed Semi-Supervised Setup

먼저, 포함된 주요 DL 기술인 RBM 및 LSTM이 정의된다. 다음으로, 제안된 심층 아키텍처 구조와 하이퍼 매개 변수 조정을 위한 GA 접근 방식이 자세히 설명된다.

3.1 Restricted Boltzmann machine

RBM은 에너지 함수에 의해 지정된 공동 확률 분포를 갖는 에너지 기반 모델이다. 데이터 분포는 매개 변수가 수렴될 때까지 깁스 샘플링에 의해 입력 데이터가 재구성된다. RBM은 label 지식 없이 데이터 분포를 모델링한다.

3.2 Long-Short term memory

준지도 설정은 바닐라 LSTM을 사용한다.

3.3 The Proposed Deep Architecture Structure and the Genetic Algorithm Approach

L1 : RBM은 label이 없는 raw input data에서 추상적 특징을 자동으로 학습하기 위 비지도 사전 훈련 단계로 활용한다. 지도 fine-tuning이 수행되기 전에 good local minimum 근처에서 가중치를 초기화 한다.
L2~L3 : LSTM은 hidden 정보를 드러내고 multiple operation condition과 fault condition을 가진 시계열 데이터에서 장기 종속성을 학습한다.
L4 : FNN은 추출된 모든 특징을 매핑한다.
L5 : 오류 계산을 처리하고 RUL 예측을 수행하기 위해 time distributed fully connected output layer를 붙인다.

GA는 큰 검색 공간에서 최적에 가까운 솔루션을 찾기 위한 강력한 도구이다. 여기서는 hyper-parameters를 조정하기 위한 GA 접근 방식이 제안된다.
1. GA 접근 방식은 주어진 검색 공간 내에서 제안된 준지도 심층 아키텍처에 대한 무작위 하이퍼 매개 변수를 선택한다. 이 집합 중 하나는 개체라고 하며 개체 집합을 모집단이라고 하자
2. 모집단에 있는 각 개인의 정확도는 개별 초 매개 변수를 가진 네트워크를 통해 평가된다.
3. 훈련의 최상의 결과를 보관하고 차세대 하이퍼 파라미터의 부모로 사용한다. 또한 알고리즘 탐색을 증가시키기 위해 교차 후 일부 무작위 돌연변이가 수행된다.

4. Experimental study

• Feature selection
  FD001 및 FD003의 센서 1, 5, 6, 10, 16, 18 및 19는 엔진 수명 동안 일정한 센서 측정값을 나타낸다. 일정한 센서 측정은 RUL 예측과 관련된 유용한 성능 저하 정보를 제공하지 않는다. 또한 단일 작동 조건을 갖는다. 따라서 세 가지 작동 설정은 제외한다.
  FD002 및 FD004는 6개의 작동으로 인해 더 복잡하다. 그러나 두 개의 LSTM 계층으로 숨겨진 패턴을 찾을 수 있다. 또한 초기 비지도 사전 훈련 단계는 지도 미세 조정 절차 전에 계층적 통계 패턴을 포착할 수 있다. 결과적으로, 이러한 패턴들은 전체 아키텍처가 성능 저하에 내재된 복잡성에 대처할 수 있게 할 것이다.

• RUL target
  true RUL target 값은 테스트 세트의 각 엔진에 대해 마지막 시간 단계에서만 제공된다. 각 엔진에 대한 모든 시간 단계에 대한 레이블을 구성하기 위해 MLP 함수 추정기를 사용하여 엔진이 정상 조건에서 작동할 때 일정한 값으로 RUL을 추정하는 것이 타당함을 보여주었다. 일정한 RUL 값(Rc)이 130이고 최소값이 0인 degrading 모델이 제안되었다. 그러나 여기서는 Rc가 실험 성능에 현저한 영향을 미치므로 GA를 통해 서로 다른 Rc를 테스트한다.
  모든 input들은 z-score로 정규화한다. μ는 평균이며 σ는 해당 표준 편차이다.

• Deep Archietecture Configuration and Training
  RBM layer는 활성화 함수로 relu(reflected linear unit)를 사용한다. Stochastic gradient descent와 Adam(Adaptive moment estimation)을 최적화 알고리즘으로 선택했다. 사전 훈련된 weight를 잘 보존하기 위해 RBM layer에서 learning rate은 한단계 높다. Relu의 가중치 초기화는 RBM에 적용되는 반면 Xavier 가중치 초기화는 준지도 심층 아키텍쳐의 나머지 layer에 적용된다.
  훈련 데이터의 큰 time step 때문에 TBPTT(truncated backpropagation through time)가 사용된다. TBPTT는 매개 변수 업데이트를 더 자주한다. 이것은 계산 복잡성을 줄이고 시간 종속성 학습을 개선한다.
  training set과 cross-validation set으로 분리한다. 1,3세트에서는 20%를 사용하는 반면 2,4세트는 training set 크기가 커지므로 10%를 사용한다.
  Dropout이 사용된다. Dropout은 기하급수적으로 많은 다른 아키텍쳐들을 결합한다. 따라서 feature extraction을 강화하는 일반화된 표현을 학습할 수 있다. 여기서 사용된 dropout 매개변수 p는 0.5지만 0.5부터 0.9까지 사용할 수 있다.
  input 데이터의 중요한 feature를 보존하기 위해 dropout은 L1과 L5에서는 하지 않는다. LSTM의 non-recurrent 연결에만 적용되는 것이다.
  GA 접근은 각 subset에 대해 한번 시행된다. training set에서 다양한 양의 각각을 훈련시키고 교차 유효성 검사에서 objective function으로써 RMSE를 평가한다. 이를 통해 각 subset의 매개변수를 최적화한다.
  Overfitting을 방지하기 위해 Early Stopping을 적용한다. 개선이 없는 몇차례의 epoch가 반복되면 비지도 사전 학습이 종료된다. RMSE accuracy를 모니터링 한다.

• Experimantal results and discussions
  
  

  이 논문의 목적은 준지도 학습을 활용하여 여러 작동 조건과 고장 모드에 따른 다변량 시계열 데이터에서 향상된 RUL 예측 정확도를 보여주는 것이다. 본 연구에서 수행된 실험은 훈련 데이터에 완전히 레이블이 지정될 때와 미세 조정 절차에서 레이블이 지정된 훈련 데이터가 줄어들 때의 비지도 훈련의 효과를 보여준다.

• The Effect of Unsupervised Pre-Training in RUL Predictions
  준지도 학습은 훈련 데이터가 100% 레이블링된 경우 지도 학습에 비해 더 높은 RUL 예측 정확도를 제공한다. 이는 비지도 사전 훈련 단계가 무작위로 초기화되는 가중치보다 더 적합한 local minimum을 사용하여 가중치를 초기화한다는 것을 나타낸다. 결과적으로 비지도 사전 훈련은 성능 저하 복잡성을 더 잘 이해할 수 있도록 지원한다.
  준지도 심층 아키텍쳐는 초기 비지도 사전 훈련 단계로 훈련할 때 전반적으로 높은 RUL 예측 정확도를 제공한다. 지도 사전 훈련의 결과를 보면 60% 이상이 포함될 때 만족스러운 RUL을 제공한다. 이는 최근 weight 초기화 및 Xavier와 dropout과 같은 정규화 기법이 비지도 사전 학습의 필요성을 실제로 줄였음을 알 수 있다. 특히 droupout은 feature extraction 능력을 향상시킨다. 그러나 40% 이상의 레이블을 제거하면 준지도 학습 활용의 개선이 눈에 띈다. 또한 epoch당 훈련 시간은 라벨이 감소함에 따라 선형적으로 감소한다.
  결과적으로 준지도 심층 아키텍쳐는 늦은 예측 수를 상당히 줄인다. 비지도 사전 훈련 단계는 supervised fine-tuning 전에 더 많은 성능 저하 관련 특징을 추출하기 때문이다.
  늦은 예측은 유지관리 절차를 늦추기에 기계의 신뢰성과 안전에 심각한 위험을 가한다. 따라서 준지도 학습법은 유망한 접근법이다.

5. conclusin and future work

본 논문은 준지도 학습을 활용하는 RUL 예측에서 비지도 사전 훈련의 효과를 조사했다. 심층 아키텍처에서 다양한 하이퍼 파라미터의 수를 조정하기 위한 GA 접근법이 제안되었다. 제안된 준지도 설정은 레이블링된 훈련 데이터의 양을 완전히 또는 줄여서 유망한 RUL 예측 정확도를 달성했다. 따라서, 많은 양의 고품질 레이블링된 훈련 데이터는 획득하기 어렵고 시간이 오래 걸릴 수 있기 때문에, 비지도 사전 훈련은 실제로 여러 작동 조건과 장애 모드에 종속된 실제 PHM 애플리케이션에서 유망한 기능이다.비지도 사전 교육은 중요한 성능 저하 정보를 포함하는 더 많은 기능을 추출하여 내재된 복잡성에 대한 이해를 향상시키기 위해 심층 아키텍처를 지원한다.
본 연구에서는 RBM을 초기 비지도 사전 훈련 단계로 활용했다. 그러나 RBM은 다소 오래되었다. VAE를 참고하라.
DL에서 정확도는 run-to-failure training data label의 품질에 크게 의존한다. 이 연구에서 Rc는 RUL 예측 정확도에 영향을 주는 주요 요인으로 뽑힌다. 이 연구에서 쓰인 piece-wise linear degradation model은 각 엔진마다 다른 저하 특징을 갖는 이 subset에서 주요 한계점으로 꼽힌다. VAE는 reconsturction error(원본 데이터와 재구성된 데이터(압축 후 원복한 것) 사이의 평균 제곱 거리를 말함.)를 anomaly score로 적용하여 비지도 기반 anomal detection에 사용되고 있다.
보통 tanh는 LSTM의 활성화 함수로 사용되고 있으나 본 연구에서는 LSTM의 활성화 함수로 초기 RBM layer와 Relu의 합성이 sigmoid로서 더 잘 수행한다는 것을 발견했다.