본문 바로가기
Study (Data Science)/Paper Research

SSSD (Diffusion-based Time Series Forecasting)

by 콜라찡 2023. 10. 5.

 

MAE : 0.02

시계열 예측

시간순으로 정렬된 과거 데이터 포인트를 기반으로 미래 값을 예측하는 데 사용되는 방법

기존모델

1. ARIMA (AutoGregressice Integrated Moving Average) : 자기회귀"누적"이동평균

정상성 : 모든 시점의 평균과 분산이 동일하고, 공분산은 시차만 같으면 동일한 상태

자기회귀(AR) : 이전에 관측된 값이 이후의 값에 영향을 미치는 상황이동평균(MA) : 평균이 시간에 따라 변화하는 경향자기회귀이동평균 (ARMA)자기회귀누적이동평균 (ARIMA) : 비정상 시계열에 대해 d차로 차분 변환한 ARMA 모형즉, 비정상 시계열을 d번 차분하여 정상화 한 후에, ARMA 차수를 결정하게 됨.

=>  간단, 단기예측에 좋으나, 비선형 데이터나 장기예측 어려움.

2. ML Boosting 계열

XGBoost, Light GBM

3. 인공신경망 (RNN, LSTM, CNN, GCN)

LSTM (Long Short-Term Memory)

기존 RNN의 앞단 정보 소실 문제를 해결하기는 했지만, 계산량이 많고, 데이터가 적을 때 오버피팅 문제 있음.

4. Transformer 계열

 Autoformer, Informer, Prophet

Attention개념을 도입하여 앞단의 내용 잔차연결 및 속도 개선

5. Diffusion 계열

Time-Grad, SSSD

 

SSSD의 장점 및 특징 

데이터가 중간에 Blackout Missing 되어있는 시나리오도 기존의 확률적 대치방법으로 보간한 것에 비해 뛰어남.

모델의 성능이 MAE, RMSE와 같은 매트릭으로 평가 가능.

SSSD 모델의 S4 계층 구성에 대해 수행된 제거 연구에 따르면 확장된 컨볼루션을 S4 계층으로 대체하면 오류가 크게 줄어들고 두 번째 S4 계층을 넣으면 더 성능이 좋아짐.

컨디션층을 넣는게 더 우수했음.

 

SSSD 구조

based model : DiffWave

 

 

SSSD 평가

728x90

댓글