전체 글 80

[Time-series 논문 리뷰] Revisiting VAE for Unsupervised Time Series Anomaly Detection: A Frequency Perspective (KDD,2024)

ABSTRACT시계열 이상 감지의 중요성: 웹 시스템은 실시간으로 이상을 감시하고 식별하기 위해 시계열 데이터에 의존합니다. 이는 시스템의 진단과 복구 절차를 시작하는 데 중요한 역할을 합니다.VAE의 인기와 한계: 변이형 오토인코더(VAE)는 우수한 노이즈 제거 능력으로 인해 이상 감지 분야에서 인기를 얻었습니다. 그러나 VAE 기반 방법은 장기간의 이질적 패턴과 단기간 trend를 동시에 포착하는 데 어려움을 겪습니다.FCVAE의 제안: 이러한 도전을 극복하기 위해, 단변량 시계열 데이터를 위한 주파수 강화 조건부 변이형 오토인코더(FCVAE)라는 새로운 비지도 학습 이상 감지 방법을 제안합니다.혁신적 접근 방식: FCVAE는 조건부 변이형 오토인코더의 조건에 전역 및 지역 주파수 특성을 동..

[서베이 정리] Anomaly detection in streaming data: A comparison and evaluation study

0. Abstract스트리밍 데이터의 이상 탐지는 전통적인 방법들로는 처리하기 어려운 복잡성을 가지고 있음스트리밍 데이터의 주요 도전 과제에 대응하기 위해 8개의 최신 알고리즘을 테스트하고 평가연구 결과는 알고리즘 선택에 있어 데이터의 지역성, 상대성, 개념 변화와 같은 특성이 중요한 영향을 미친다는 것을 보여줌locality이상치가 지역적 맥락에 상대적인지 여부)relativeness과거 데이터가 이상치를 정의하는지 여부concept drift그 강도와 빈도⇒ 대부분의 경우 사전에 역사적 데이터와 도메인 지식을 통해 추론될 수 있음실제 환경에서 스트리밍 데이터의 이상 탐지를 위한 중요한 발견을 제공1. Introduction[1] 데이터 스트림 vs 다변..

[Deep-Learning 개념] 최대 평균 불일치(MMD)

MMD정의확률 분포 간의 차이를 측정하는 효과적 방법 중 하나역할데이터셋 간의 차이를 수치화 하기 위한 역할활용Domain Adaptation, 커널기반 방법, 생성 모델링 MMD정의두 확률 분포간의 차이점을 평가하기 위해 고안된 측정지표핵심커널함수를 선정하는 작업기본 아이디어재생 커널 힐베르트 공간(RKHS)에서 분포의 평균 임베딩 차이를 계산하는 것힐베이트: 무한차원의 공간임베딩: 각 데이터에 일대일대응하는 벡터뭉치⇒ 고차원 공간에서 함수의 기댓값(평균)간의 불일치 평가하여 차이점을 정량화MMD 구성요소커널 함수입력 공간의 데이터포인트를 고차원공간에 변환하는 역할결정경계가 단순한 초평면이 아닌 복잡한 문제를 해..

[Manufacturing 논문 리뷰] Multi-Layer domain adaptation method for rolling bearing fault diagnosis

0. Abstract레이블이 지정된 훈련 데이터(소스 도메인)의 분포가 **레이블이 없는 테스트 데이터(타겟 도메인)**의 분포와 다르다는 도메인 이동 문제가 일반적으로 발생제안점(롤링 베어링 결함진단 위한 새로운 도메인 적응 방법)Deep CNN 사용됨다중 레이어에서 두 도메인 간의 다중 커널 최대 평균차이(MMD) 최소화하여,소스 도메인에서 supervised learning 통해 학습된 표현이 타겟 도메인에 적용될수있도록⇒ 도메인 불변 특징 효율적 추출가능 & cross domain 성능 크게 향상 가능1. Introduction[1] rolling element bearing과 domain shift 문제 정의rolling element bearing중공업 기계, 제..

[Pytorch 개념 / 펭귄브로 Pytorch] 8강: 딥러닝을 해킹하는 적대적 공격

💻 아래 github 코드를 참고하여 내용을 구성했습니다. https://github.com/keon/3-min-pytorch GitHub - keon/3-min-pytorch: 예제 코드 예제 코드. Contribute to keon/3-min-pytorch development by creating an account on GitHub. github.com 01. Adversarial attack(적대적 공격) 개요 02. 적대적 공격의 종류 03. FGSM(Fast Gradient Sign Method) 공격 04. 예시 코드 Reference [1] https://yjs-program.tistory.com/171

[Pytorch 개념 / 펭귄브로 Pytorch] 4강: 패션 아이템을 구분하는 DNN

💻 아래 github 코드를 참고하여 내용을 구성했습니다. https://github.com/keon/3-min-pytorch GitHub - keon/3-min-pytorch: 예제 코드 예제 코드. Contribute to keon/3-min-pytorch development by creating an account on GitHub. github.com 01. Fashion MNIST 데이터셋 알아보기 01-1. data.Dataloader 01-2. matplotlib.pyplot을 이용한 이미지 시각화 방법 모음 02. 인공 신경망으로 패션 아이템 분류하기 02-1. nn.Linear 02-2. Activation function & Optimization 03. 과적합과 드롭아웃 03-1. ..

[Time-series 논문 리뷰] Forecasting with Sparse but Informative Variables: A Case Study in Predicting Blood Glucose (AAAI, 2023)

1. Introduction SIV(희소하지만 정보를 제공)의 효과적 활용 위해, 이 논문의 독자적인 접근방식이 rMSE면에서 기준선 접근방식보다 뛰어남 SIV가 손상되면 논문의 독자적 접근방식도 성능 낮아질것 결론*) 논문의 접근방식은 예측에서 SIV를 더 효과적 사용가능 내재+외재 = 예측정확도 향상 But 혈당과 같은 생리학적 변수의 예측에서는 내재+외재에서 예측 정확도가 향상되는 경우 없을수있음 보조신호와 대상 신호간의 비제로값이 상대적 불일치 때문 보조신호(외재)가 대상 신호(내재)에 영향 미치는데 매우 희소( 희소하지만 정보를 제공하는 변수(SIV) =⇒ 희소성에도 불구하고 SIV를 활용하여 전반적인 예측 개선 SIV문제 언제 발생) 부가변수가 시간에 따라 대상 변수의 크기를 증가시키거나 감소..

[Time-series 논문 리뷰] Are Transformers Effective for Time Series Forecasting? (AAAI, 2023) (NLinear, DLinear)

0. Abstract LTSF해결위한 Transformer based 해결책의 급증 Transformer는 의미론적인 상관관계를 잘 해결함 순서가 있는 연속적인 point에서 시간적 관계추출해야됨 Transformer에서 encoding, token이용하면서 정보를 순서대로 놓아도, self attention매커니즘의 순서가 변하지 않는 것은 일시적 정보손실을 반드시 낳는다* LTSF-Linear가 기존의 정교한 Transformer-based LTSF 를 넘어서 좋은 성능 보여줌 1. Introduction 시계열 시계열 문제는 data기반 세계에 만연함 시계열 문제 해결 변천사 : 머신러닝 → 딥러닝 Transformer Transformer 장점: 순서기반 모델, 병렬적이지 않은 해결, 다양한 적용..

[Manufacturing 논문 리뷰] PCB Defect Detection Using Denoising Convolutional Autoencoders (2020)

0. 전반적인 흐름 결함찾기+불량 PCB복구 네트워크 구조 결함 탐지 ->입력으로부터 복구된 PCB를 예측 복구시킨다음에, 복구시킨것과 입력의 차이 구해서 불량 판별 구조적 유사성 더 정확한 차이를 계산하기 위해 구조적 유사성을 활용 특이점 학습 전 noise추가 normal PCB넣어서 초기가중치 추출 후, 본격 학습 1. 실험 절차 데이터셋 DeepPCB 데이터셋을 사용하여 실험을 진행 : 1500개의 불량 PCB와 해당 정상 PCB의 이미지 쌍이 포함되어 있으며, 총 6 종류의 결함을 포함 : 불량과 정상 PCB의 이미지 쌍으로 훈련되었으며, 더 나은 결과를 얻기 위해 불량 PCB에 노이즈를 추가 훈련 절차 (이렇게 해도 ㄱㅊ을지 물어보기) 제안된 노이즈 제거 자기 인코더를 훈련하기 전에, 먼저 정..