제가 최근에 읽은 연구실 논문에 관해 블로그글을 쓰고자 합니다.

논문: Data-driven Prediction of Battery Cycle Life Before Capacity Degradation
저자: Kristen A. Severson, Peter M. Attia, Norman Jin, Nicholas Perkins, Benben Jiang, Zi Yang, Michael H. Chen, Muratahan Aykol, Patrick K. Herring, Dimitrios Fraggedakis, Martin Z. Bazant, Stephen J. Harris, William C. Chueh and Richard D. Braatz

새로운 feature?

이 논문은 배터리의 초기 사이클 데이터만을 활용하여 수명을 예측할 수 있는 데이터 기반(machine learning) 접근법을 제안하는데요.

• x축: Cycle number - 오른쪽으로 갈수록 배터리가 더 늙은 상태
• y축: Discharge capacity (Ah) - 위쪽으로 갈수록 배터리 성능의 크기가 크다

위 그래프는 cycle number와 discharge capacity 와의 관계를 나타내는 그래프입니다.
이 그래프를 100cycle 부분만 확대해보겠습니다.

그래프를 보시면, 초기 사이클에서는 용량 감소가 거의 발생하지 않다는 것을 볼 수 있는데요. 즉, cycle 이 증가하는 특정 시점 이후 급격하게 감소하는 특성을 보입니다.

실제로 cycle 100의 capacity÷cycle 2의 capacity의 비율을 보시면, 1근처에 몰려 있는 것을 볼 수 있는데요. 즉, 대부분의 배터리는 cycle 2와 cycle 100 사이에 용량 변화가 거의 없다는 것을 볼 수 있습니다.

n번째 cycle 용량으로 최종 수명을 예측할 수 있을까?
-> 초기 capacity 관련 정보만으로는 배터리 수명을 잘 예측할 수 없다

본 논문의 연구 목적은 배터리의 용량 감소가 거의 발생하지 않은 초기 단계에서 수명을 예측하는 모델 개발하는 것이였는데요.

따라서 본 논문은 새로운 feature 를 도입합니다.

배터리의 초기 단계에서는 capacity는 거의 변하지 않지만,
내부 상태 변화는 이미 시작되며 이는 voltage curve에 반영된다.
→ 따라서 기존의 capacity 기반 접근 대신, discharge voltage curve를 활용한 feature 도입을 하자!

• x축: Discharge capacity (Ah) → 얼마나 방전했는지
• y축: Voltage (V) → 그때의 전압
  같은 배터리인데도 시간이 지나면서 voltage 곡선이 변하는 것을 볼 수 있는데요. 따라서 feature로써, capacity보다 voltage 를 써야한다는 것을 확인할 수 있습니다.

• 파란색 (수명 긴 배터리) → 변화 작음 (x값 작음)
• 빨간색 (수명 짧은 배터리) → 변화 큼 (x값 큼)
  따라서 우리는 voltage 변화가 크면 → 빨리 죽는다는 것도 확인할 수 있습니다.

  

• x축: Var(ΔQ(V)) → 변화의 크기를 “하나의 숫자”로 요약한것
• y축: Cycle life → 배터리 수명

ΔQ(V)의 분산을 계산하여 이를 하나의 feature로 사용하여 표현하면, 이 값과 배터리 수명 사이에 매우 강한 음의 상관관계(ρ = -0.92)가 나타나는 것을 볼 수 있습니다.

모델 구조

본 연구에서는 선형 형태의 모델 구조를 사용합니다.

단순한 선형 결합이지만, 입력 feature, 즉, ΔQ(V)의 분산이라는 feature가 배터리 수명과 강한 선형 관계를 가지고 있기 때문에 선형 결합만으로 충분하다고 판단하여 선형 모델 구조를 사용하는데요.
이로써, 모델 계산 비용이 매우 낮다는 장점이 있습니다.

모델 학습

모델 학습은 Elastic Net으로 합니다. Elastic Net은 L1, L2 Normalization 함께 사용하는 방식인데요. 각 feature 중요도 확인 가능이 가능하고, feature selection 가능도 가능하며, 과적합 방지도 L1, L2 규제를 사용하여 가능합니다.

결과

• a: 분산 하나만을 feature로 사용한 모델
• b: discharge model 로, 전압기반 추가 feature을 사용한 모델
• c: full model로 모든 feature을 포함한 모델

a - variance model

a의 variance model을 보시면,

RMSE

• Train: 103
• Primary test: 138
• Secondary test: 196

Mean percent error

• Train: 14.1%
• Primary test: 14.7% (13.2%)
• Secondary test: 11.4%
  의 수치를 확인할 수 있는데요. 결과를 분석해보자면, feature가 단 하나뿐인데도 성능이 꽤 좋다는 것을 확인할 수 있습니다. secondary test의 평균 오차가 11.4% 수치를 보이고 있는데, 배터리의 초기 voltage curve 변화량의 분산 하나만으로도 수명을 꽤 정확히 맞출 수 있다는 것을 보여주고 있습니다.

b - Discharge model

다음으로는
b의 Discharge model 즉, variance/ discharge voltage/current에서 얻을 수 있는 추가 feature들을 포함한 모델의 결과를 보도록 하겠습니다.

RMSE

• Train: 76
• Primary test: 91 (86)
• Secondary test: 173

Mean percent error

• Train: 9.8%
• Primary test: 13.0% (10.1%)
• Secondary test: 8.6%
  의 수치를 확인할 수 있는데요. Variance model보다 성능이 더 좋아진 것을 볼 수 있습니다.
  특히 secondary test의 평균 오차는 8.6%으로, discharge 과정에서 얻을 수 있는 여러 feature를 함께 쓰면, 단일 feature 모델보다 더 안정적이고 정확한 예측이 가능하다는 분석을 할 수 있습니다.

c - Full model

마지막으로
c의 Full model, 즉, 가장 많은 feature을 사용한 모델의 성능을 보시면,

RMSE

• Train: 51
• Primary test: 118 (100)
• Secondary test: 214

Mean percent error

• Train: 5.6%
• Primary test: 14.1% (7.5%)
• Secondary test: 10.7%
  Train 오차가 가장 낮아, 학습 데이터에서는 가장 잘 맞지만, test 성능을 보면 생각보다 무조건 최고는 아니라는 것을 볼 수 있습니다. 또한, Secondary test에서는 10.7%로, Discharge model의 8.6%보다 약간 나쁜데요. 즉, 복잡성이 커질수록 일반화 측면에서는 오히려 손해를 볼 수도 있다는 사실을 알 수 있습니다.

conclusion

feature를 마냥 늘리는 것만으로 모델 성능이 좋아지는 것은 아니라는 것을 배웠습니다. 최근 AI 정규 스터디를 준비하면서, feature을 늘리고 모델을 복잡하게 만들어, 규제를 가하는 방식이 모델의 성능을 좋게 만들까? 아니면 적당한 feature 갯수를 선택하여, 모델을 만드는것이 성능을 좋게 만들까? 라는 의문이 들었었는데, 이에 대한 의문을 확인해볼 수 있는 논문이였던 것 같습니다.