윤지

0. Abstract Transformer 제안 RNN, CNN모두 생략 오로지 어텐션 기반 병렬적으로 작동이 가능해서 학습 속도가 빨랐음 1. Introduction RNN기반 모델들은 그동안 대표적인 시퀀스 모델링, 시퀀스 변환모델 언어모델, 인코더-디코더 구조의 경계를 넓히려고 많이 노력했음 문제점) RNN기반 모델의 본질적인 순서 위치는 긴 시퀀스에서 치명적 (병렬적으로 작동X) 계산적 발전 이루었음에도 제약 여전히 발생 어텐션: input과 ouput시퀀스의 길이와 상관없이 다양한 task에서 시퀀스 모델링과 시퀀스 변환에서 짱됨 일부 RNN은 어텐션과 함께 쓰이기도 함 Transformer제안: recurrent한 특징 제외하고, 어텐션 통해 입력과 출력 사이에 종속성 유지 병렬화 가능 짧은 ..

지도 비지도 시각적 탐지 세부 수준 이미지 수준: 전체 이미지가 정상인지 비정상인지에 대한 질문에 초점 픽셀 수준: 이미지 내의 비정상적인 영역을 감지하거나 위치를 파악 점차 딥 컨볼루션 네트워크의 강력한 표현 능력을 시각적 이상 탐지 문제와 결합하는 문제에 주목하고, 최종적으로 종단 감지 접근 방식을 개발 III. IMAGE-LEVEL VISUAL ANOMALY DETECTION 비지도 이미지 수준 이상 탐지 방법 A. 밀도 추정 먼저 정상 이미지나 특징의 확률 분포 모델을 추정한 후, 새로 관찰된 이미지가 이상인지 정상인지를 확인하고 식별하기 위해 설정된 분포에 대해 테스트 테스트 이미지나 이미지 특징이 정상 이미지 샘플로 추정된 확률 분포 모델과 일치하지 않는 경우, 이를 이상으로 분류 가우시안 모..