forecasting 2

[Time-series 논문 리뷰] Non-stationary Transformers: Exploring the Stationarity in Time Series Forecasting

0. Abstract트랜스포머 한계점joint distribution으로 시간에 따라 변하는 비정상적인 실세계 데이터에서 그 성능이 크게 저하이전 연구 동향예측 가능성 개선 위해, 원본 series의 비정상성 완화하는 stationarization 채택But, 본질적인 비정상성을 잃은 정규화된 series는 실세계의 갑작스러운 사건을 예측하는 데 대처 어려움⇒ ‘과도한 정규화’: 트랜스포머가 다양한 series에 대해 구별할 수 없는 시간적 attention생성하여, 깊은 모델의 예측력 저해⇒ series의 예측 가능성과 모델 능력 사이의 딜레마를 해결하기 위해, 우리는 series stationarization와 non-stationary attention라는 두 개의 상호 의존..

[Time-series 논문 리뷰] Dish-TS: A General Paradigm for Alleviating Distribution Shift in Time Series Forecasting(AAAI, 2023)

0. Abstractseries분포변화 해결하는 기존 연구 한계대부분 분포의 정량화에 한정lookback window, horizon windows 사이의 잠재적 변화 간과분포 변화 정의룩백 창을 입력 공간으로, 수평 창을 출력 공간으로 간주할 때,(i) 입력 공간 내에서 시간이 지남에 따라 지속적으로 변화하는 내부 공간 변화(ii) 입력 공간과 출력 공간 사이에서 변화하는 외부 공간 변화가 존재제안하는 것: Dish-TSCONET: 더 나은 분포 추정을 위해, 우리는 입력 시퀀스를 학습 가능한 분포 계수로 매핑할 수 있는 어떠한 신경 구조도 가능Dual-CONET 프레임워크: 내부 공간과 외부 공간 변화를 완화하기 위해, 우리는 Dish-TS를 Dual-CONET 프레임..