분류 전체보기 78

[Deep-Learning 개념] 최대 평균 불일치(MMD)

MMD정의확률 분포 간의 차이를 측정하는 효과적 방법 중 하나역할데이터셋 간의 차이를 수치화 하기 위한 역할활용Domain Adaptation, 커널기반 방법, 생성 모델링 MMD정의두 확률 분포간의 차이점을 평가하기 위해 고안된 측정지표핵심커널함수를 선정하는 작업기본 아이디어재생 커널 힐베르트 공간(RKHS)에서 분포의 평균 임베딩 차이를 계산하는 것힐베이트: 무한차원의 공간임베딩: 각 데이터에 일대일대응하는 벡터뭉치⇒ 고차원 공간에서 함수의 기댓값(평균)간의 불일치 평가하여 차이점을 정량화MMD 구성요소커널 함수입력 공간의 데이터포인트를 고차원공간에 변환하는 역할결정경계가 단순한 초평면이 아닌 복잡한 문제를 해..

[Manufacturing 논문 리뷰] Multi-Layer domain adaptation method for rolling bearing fault diagnosis

0. Abstract레이블이 지정된 훈련 데이터(소스 도메인)의 분포가 **레이블이 없는 테스트 데이터(타겟 도메인)**의 분포와 다르다는 도메인 이동 문제가 일반적으로 발생제안점(롤링 베어링 결함진단 위한 새로운 도메인 적응 방법)Deep CNN 사용됨다중 레이어에서 두 도메인 간의 다중 커널 최대 평균차이(MMD) 최소화하여,소스 도메인에서 supervised learning 통해 학습된 표현이 타겟 도메인에 적용될수있도록⇒ 도메인 불변 특징 효율적 추출가능 & cross domain 성능 크게 향상 가능1. Introduction[1] rolling element bearing과 domain shift 문제 정의rolling element bearing중공업 기계, 제..

[Pytorch 개념 / 펭귄브로 Pytorch] 8강: 딥러닝을 해킹하는 적대적 공격

💻 아래 github 코드를 참고하여 내용을 구성했습니다. https://github.com/keon/3-min-pytorch GitHub - keon/3-min-pytorch: 예제 코드 예제 코드. Contribute to keon/3-min-pytorch development by creating an account on GitHub. github.com 01. Adversarial attack(적대적 공격) 개요 02. 적대적 공격의 종류 03. FGSM(Fast Gradient Sign Method) 공격 04. 예시 코드 Reference [1] https://yjs-program.tistory.com/171

[Pytorch 개념 / 펭귄브로 Pytorch] 4강: 패션 아이템을 구분하는 DNN

💻 아래 github 코드를 참고하여 내용을 구성했습니다. https://github.com/keon/3-min-pytorch GitHub - keon/3-min-pytorch: 예제 코드 예제 코드. Contribute to keon/3-min-pytorch development by creating an account on GitHub. github.com 01. Fashion MNIST 데이터셋 알아보기 01-1. data.Dataloader 01-2. matplotlib.pyplot을 이용한 이미지 시각화 방법 모음 02. 인공 신경망으로 패션 아이템 분류하기 02-1. nn.Linear 02-2. Activation function & Optimization 03. 과적합과 드롭아웃 03-1. ..

[Time-series 논문 리뷰] Forecasting with Sparse but Informative Variables: A Case Study in Predicting Blood Glucose (AAAI, 2023)

1. Introduction SIV(희소하지만 정보를 제공)의 효과적 활용 위해, 이 논문의 독자적인 접근방식이 rMSE면에서 기준선 접근방식보다 뛰어남 SIV가 손상되면 논문의 독자적 접근방식도 성능 낮아질것 결론*) 논문의 접근방식은 예측에서 SIV를 더 효과적 사용가능 내재+외재 = 예측정확도 향상 But 혈당과 같은 생리학적 변수의 예측에서는 내재+외재에서 예측 정확도가 향상되는 경우 없을수있음 보조신호와 대상 신호간의 비제로값이 상대적 불일치 때문 보조신호(외재)가 대상 신호(내재)에 영향 미치는데 매우 희소( 희소하지만 정보를 제공하는 변수(SIV) =⇒ 희소성에도 불구하고 SIV를 활용하여 전반적인 예측 개선 SIV문제 언제 발생) 부가변수가 시간에 따라 대상 변수의 크기를 증가시키거나 감소..

[Time-series 논문 리뷰] Are Transformers Effective for Time Series Forecasting? (AAAI, 2023) (NLinear, DLinear)

0. Abstract LTSF해결위한 Transformer based 해결책의 급증 Transformer는 의미론적인 상관관계를 잘 해결함 순서가 있는 연속적인 point에서 시간적 관계추출해야됨 Transformer에서 encoding, token이용하면서 정보를 순서대로 놓아도, self attention매커니즘의 순서가 변하지 않는 것은 일시적 정보손실을 반드시 낳는다* LTSF-Linear가 기존의 정교한 Transformer-based LTSF 를 넘어서 좋은 성능 보여줌 1. Introduction 시계열 시계열 문제는 data기반 세계에 만연함 시계열 문제 해결 변천사 : 머신러닝 → 딥러닝 Transformer Transformer 장점: 순서기반 모델, 병렬적이지 않은 해결, 다양한 적용..

[Manufacturing 논문 리뷰] PCB Defect Detection Using Denoising Convolutional Autoencoders (2020)

0. 전반적인 흐름 결함찾기+불량 PCB복구 네트워크 구조 결함 탐지 ->입력으로부터 복구된 PCB를 예측 복구시킨다음에, 복구시킨것과 입력의 차이 구해서 불량 판별 구조적 유사성 더 정확한 차이를 계산하기 위해 구조적 유사성을 활용 특이점 학습 전 noise추가 normal PCB넣어서 초기가중치 추출 후, 본격 학습 1. 실험 절차 데이터셋 DeepPCB 데이터셋을 사용하여 실험을 진행 : 1500개의 불량 PCB와 해당 정상 PCB의 이미지 쌍이 포함되어 있으며, 총 6 종류의 결함을 포함 : 불량과 정상 PCB의 이미지 쌍으로 훈련되었으며, 더 나은 결과를 얻기 위해 불량 PCB에 노이즈를 추가 훈련 절차 (이렇게 해도 ㄱㅊ을지 물어보기) 제안된 노이즈 제거 자기 인코더를 훈련하기 전에, 먼저 정..

[Manufacturing 논문 리뷰] ONLINE PCB DEFECT DETECTOR ON A NEW PCB DEFECT DATASET (2019)

0. 요약 데이터셋 DeepPCB :6가지 유형의 PCB 결함의 위치와 클래스에 대한 1,500개의 템플릿과 테스트 이미지 쌍을 포함(대부분 다 이걸로 사용하는듯) 장점: 정렬 - 템플릿 이미지와 테스트 이미지는 템플릿 매칭 방법을 사용하여 정렬되므로 이미지 전처리에 큰 노력을 줄임 deep model PCB결함 감지기의 딜레마 정확도와 효율성 사이에서 딜레마에 직면합니다. 높은 정확도를 위해서는 더 많은 층을 갖는 수십 개 또는 수백 개의 레이어로 더 깊은 모델이 필요합니다. 반면, 높은 효율성을 위해서는 많은 파라미터와 덜 깊은 구조가 필요 위의 딜레마 극복 방법(결함 감지능력 향상) 그룹 피라미드 풀링(GPP): GPP는 그룹화된 풀링과 업샘플링을 통해 다양한 해상도의 특성을 병합합니다. GPP의 ..