2024/04/24 14

[Time-series 논문 리뷰] Non-stationary Transformers: Exploring the Stationarity in Time Series Forecasting

0. Abstract트랜스포머 한계점joint distribution으로 시간에 따라 변하는 비정상적인 실세계 데이터에서 그 성능이 크게 저하이전 연구 동향예측 가능성 개선 위해, 원본 series의 비정상성 완화하는 stationarization 채택But, 본질적인 비정상성을 잃은 정규화된 series는 실세계의 갑작스러운 사건을 예측하는 데 대처 어려움⇒ ‘과도한 정규화’: 트랜스포머가 다양한 series에 대해 구별할 수 없는 시간적 attention생성하여, 깊은 모델의 예측력 저해⇒ series의 예측 가능성과 모델 능력 사이의 딜레마를 해결하기 위해, 우리는 series stationarization와 non-stationary attention라는 두 개의 상호 의존..

[Time-series 논문 리뷰] Dish-TS: A General Paradigm for Alleviating Distribution Shift in Time Series Forecasting(AAAI, 2023)

0. Abstractseries분포변화 해결하는 기존 연구 한계대부분 분포의 정량화에 한정lookback window, horizon windows 사이의 잠재적 변화 간과분포 변화 정의룩백 창을 입력 공간으로, 수평 창을 출력 공간으로 간주할 때,(i) 입력 공간 내에서 시간이 지남에 따라 지속적으로 변화하는 내부 공간 변화(ii) 입력 공간과 출력 공간 사이에서 변화하는 외부 공간 변화가 존재제안하는 것: Dish-TSCONET: 더 나은 분포 추정을 위해, 우리는 입력 시퀀스를 학습 가능한 분포 계수로 매핑할 수 있는 어떠한 신경 구조도 가능Dual-CONET 프레임워크: 내부 공간과 외부 공간 변화를 완화하기 위해, 우리는 Dish-TS를 Dual-CONET 프레임..

[Time-series 논문 리뷰] A Deep Neural Network for Unsupervised Anomaly Detection and Diagnosis in Multivariate Time Series Data(AAAI, 2019)

Abstract기존 연구 한계점시간적 의존성 포착 + 서로 다른 시계열 쌍 사이의 상호연관성 + 잡음에 강함 + 사고의 심각성에 따라 다른 anomaly score 제공제안하는 것: MSCRED다중 스케일 합성곱 재귀 인코더-디코더다중 해상도의 서명 행렬을 구성하여 다양한 시간 단계에서 시스템 상태의 여러 수준을 특성화

[Time-series 논문 리뷰] FluxEV: A Fast and Effective Unsupervised Framework for Time-Series Anomaly Detection(WSDM, 2021)

Abstract기존 연구 한계엄청난 양의 데이터, 복잡한 데이터 패턴, 그리고 제한된 계산 자원SPOT은 효율적인 스트리밍 알고리즘이지만, 전체 데이터 분포에서 극단적인 값에만 민감제안하는 것: FluxEV빠르고 효과적인 비감독 이상 감지 프레임워크비극단적 이상을 극단적 값으로 변환SPOT의 한계를 해결하고 탐지 정확도에서 엄청난 향상

[Time-series 논문 리뷰] Unsupervised Time Series Outlier Detection with Diversity-Driven Convolutional Ensembles(PVLDB, 2022)

Abstract기존 연구 한계정확성, 효율성 측면에서 개선의 여지 O제안: 다양성 중심의 convolution ensemble정확성 향상: 시계열의 시간적 의존성을 포착할 수 있는 컨볼루션 시퀀스 대 시퀀스 오토인코더를 기반으로 한 다수의 기본 이상치 탐지 모델을 사용기본 모델들 사이의 다양성을 유지하여 앙상블의 정확성을 향상시키는 것을 목표효율성 향상: 훈련 도중 높은 수준의 병렬 처리, 한 기본 모델에서 다른 모델로 일부 모델 매개변수를 전송할 수 있어 훈련 시간을 줄임

[Time-series 논문 리뷰] Prototype-oriented unsupervised anomaly detection for multivariate time series(ICML, 2023)

Abstract기존 다변량 시계열 unsupervised anomaly detection 문제점각 다변량 시계열에 대해 고정된 매핑 세트 학습하고자 함→ 많은 비용, 제한된 모델 적응 수반해결법확률적 프레임워크 하에 프로토타입 중심의 PUAD 제안각 MTS에 대한 매핑을 학습하는 대신, 여러 MTS를 정상 패턴의 다양한 세트를 대표하는 프로토타입 그룹의 분포로 봄

[Time-series 논문 리뷰] When Model Meets New Normals: Test-time Adaptation for Unsupervised Time-series Anomaly Detection(AAAI, 2024)

0. Abstract시계열 이상 감지관측치의 시퀀스로부터 정상성을 학습하여 이상한 시간 단계를 탐지하는 문제를 다룸정상성시간이 지남에 따라 발전하여, 훈련 데이터와 테스트 데이터 사이의 분포 변화로 인해 정상성의 분포가 변할 수 있는 "새로운 정상 문제"를 야기⇒ 비지도 시계열 이상 감지 연구에서 새로운 정상 문제의 유병률을 강조제안점trend 추정 중에 새로운 정상성을 학습하기 위한 self-supervised 접근 방식을 기반으로 한 단순하지만 효과적인 테스트 시간 적응 전략을 제안1. Introduction[1] 비지도 시계열 이상 감지 모델비지도 시계열 이상 감지 모델사용 가능한 훈련 데이터셋에서 정상 패턴을 학습하는 것에 중점정상성 개념; 시간이 지남..

[Time-series 논문 리뷰] ANOMALY TRANSFORMER: TIME SERIES ANOMALY DETECTION WITH ASSOCIATION DISCREPANCY(ICLR, 2022)

0. Abstract시계열 비지도 이상 탐지기존 방법들(둘다 잘 안됨) pointwise representation, pairwise association(transformer) 통합모델링: pointwise representation+pairwise association각 timepoint의 self attention weight분포 → 전체 series와의 풍부한 연관성 내포가능이 연구에서의 문제 정의이상이 드물기에, anomaly point로부터 전체 series에 대한 중요한 연관성 구축 어려움따라서 전체보단, 주로 인접한 time point들과 연관성 집중될 것 (=인접 집중 편향)(이 연구에서,,) 정상과 이상점들 사이의 구별가능한 연관성 기준 내포**(=연광..

[Time-series 논문 리뷰] Revisiting VAE for Unsupervised Time Series Anomaly Detection: A Frequency Perspective (KDD,2024)

ABSTRACT시계열 이상 감지의 중요성: 웹 시스템은 실시간으로 이상을 감시하고 식별하기 위해 시계열 데이터에 의존합니다. 이는 시스템의 진단과 복구 절차를 시작하는 데 중요한 역할을 합니다.VAE의 인기와 한계: 변이형 오토인코더(VAE)는 우수한 노이즈 제거 능력으로 인해 이상 감지 분야에서 인기를 얻었습니다. 그러나 VAE 기반 방법은 장기간의 이질적 패턴과 단기간 trend를 동시에 포착하는 데 어려움을 겪습니다.FCVAE의 제안: 이러한 도전을 극복하기 위해, 단변량 시계열 데이터를 위한 주파수 강화 조건부 변이형 오토인코더(FCVAE)라는 새로운 비지도 학습 이상 감지 방법을 제안합니다.혁신적 접근 방식: FCVAE는 조건부 변이형 오토인코더의 조건에 전역 및 지역 주파수 특성을 동..