2024 딥러닝/논문 리뷰 20

[논문 리뷰] AdapTable: Test-Time Adaptation for Tabular via Shift-Aware Uncertainty

방법론의 목적 1) Tabular data representation은 covariate shift와 concept drift의 얽힘으로 인해 방해받는 경우가 많음 (a), (b)를 비교해보면, 심층 학습 모델의 표현이 image데이터에서만 라벨에 따른 클러스터 가정을 따르며, tabular 데이터에서는 그렇지 않음Tabular 형식 도메인에서는 잠재적 혼란 변수 Z로 인해 입력 X에서 출력 Y로의 약한 인과관계가 발생하며, 이는 유사한 입력에 대해 매우 다른 라벨을 생성하는 경우가 많음(Grinsztajn, Oyallon, and Varoquaux 2022; Liu et al. 2023)심층 신경망이 정확하게 모델링하기 어려운 고주파 함수로 이어지며, 심층 신경망은 저주파 함수에 편향되는 경향이 있음 ..

[논문 리뷰] Sleep Quality Prediction From Wearable Data Using Deep Learning

Sleep Quality Definitions수면 효율성(sleep efficiency)수면의 질을 측정하기 위해 수면 효율성(sleep efficiency)을 결정했습니다(그림 2 참조). 이는 **총 수면 시간(분)과 침대에 있는 총 시간(분)**의 비율입니다. 수면 효율성 점수가 85% 이상인 사람들은 양질의 수면을 취한 것으로 간주되며, 점수가 85% 미만인 사람들은 수면의 질이 낮은 것으로 간주됩니다. **침대에 있는 총 시간(가속도계 센서(macc))**은 개인이 잠을 자는 시간과 잠들기까지 걸리는 시간(즉, 잠복기)을 포함한 시간입니다. 총 수면 시간은 개인이 잠을 자는 시간에서 깨어난 시간을 뺀 시간을 나타냅니다.이는 수면 시작 후 깨어난 시간(WASO)을 수면 기간의 길이에서 빼서 계산합..

[논문 리뷰] Assessing Sleep Quality Using Mobile EMAs: Opportunities, Practical Consideration, and Challenges

Abstract일상적인 수면 질을 평가하기 위해 EMAs 데이터를 포함하는 지표를 제안복잡한 생활 방식 맥락을 정량적으로 포함우리는 스마트폰을 사용하여 4주간의 데이터 수집 실험을 통해 실제 생활 데이터를 수집.우리는 자가 보고 데이터를 사용하여 지리적, 사회적 습관, 사회적 조건, 활동 수준 및 감정 상태를 반영하는 일일 지표를 생성하는 방법을 개발우리는 기존의 수면 설문지에서 EMAs를 사용하여 특징을 구성하는 지표를 보완할 수 있는지 여부를 평가분석 목표인식된 수면의 질을 설명하는 다섯 가지 수면 질 지표로 구성분석 결과일일 지표와 수면 설문지를 모두 사용한 특징이 수면 질 예측에 더 나은 결과를 초래모바일 기기와 EMAs를 통해 복잡한 인간 행동을 식별하는 지표를 생성할 가능성사용자 친화적인 데이..

[논문 리뷰] Real-world multimodal lifelog dataset for human behavior study

1. Introduction데이터셋 목적: 감정상태와 생리학적 반응(PPG, EDA, 피부온도)간의 상관관계: 기분 및 신체활동(=비수면 일상현상)포함   2. Related work2.1. Activity datasetsOpportunity생활 실험실에서 4명의 피험자로부터 여러 온바디 IMU 및 환경 센서 데이터를 수집했으며, 이동 방식, 행동 및 객체를 나타내는 라벨을 포함하고 있습니다. PAMAP2 [4] 데이터셋은 손목, 가슴, 발목에 세 개의 IMU를 사용하고, 9명의 피험자가 착용한 심박수 모니터를 추가하여 걷기와 축구와 같은 다양한 활동에 대한 18개의 라벨을 포함하고 있습니다. UCI-HAR [1] 데이터셋에 포함된 IMU 데이터는 허리 왼쪽에 장착된 스마트폰으로부터 얻어진 것으로, 30..

[서베이 정리] Large Language Models for Data Annotation: A Survey

PreliminariesScenario: unsupervised learningTechnique 방법: IOP, ICL, CoT, IT, AT 등 LLM-Based Data AnnotationManually Engineered Prompts(수동으로 설계된 프롬프트)  제로샷 (Zero-Shot)개념: 제로샷 학습은 LLM에게 예시 없이 작업을 수행하도록 요청하는 방법입니다. 즉, LLM이 이전에 본 적이 없는 새로운 작업에 대해 바로 응답을 생성해야 합니다.사용법:프롬프트 생성: 특정 작업에 대한 명령어를 포함한 프롬프트를 작성합니다.출력 획득: LLM에게 프롬프트를 제공하고 응답을 받습니다예시: Prompt: "Translate the following English sentence to French..

[논문 리뷰] Source-free Video Domain Adaptation by Learning Temporal Consistency for Action Recognition(CVPR, 2022)

ATCoN소스 모델과 동일한 구조를 가진 공간 및 시간 특성 추출기를 사용하고, 이는 소스 특성 추출기로 초기화됩니다. 이 모델은 로컬 시간 특성들로부터 전반적인 시간적 특성을 학습함으로써 특성 일관성과 소스 예측 일관성을 동시에 유지합니다. 로컬 가중치 모듈(LWM)은 더 정확하다고 판단되는 로컬 시간적 특성에 집중합니다. 최종적으로, 고정된 소스 분류기를 사용하여 이러한 전반적인 시간적 특성에 기반한 예측을 도출  ⇒ 모델은 소스 모델과 동일한 구조의 공간 및 시간 특성 추출기를 사용하며, 이는 소스 특성 추출기로 초기화됩니다. 로컬 시간적 특성에서 전반적인 시간적 특성을 학습함으로써 특성 및 소스 예측 일관성을 유지합니다. 로컬 가중치 모듈(LWM)은 정확도가 높은 로컬 특성에 집중하고, 최종 예측..

[논문 리뷰] Overcoming Label Noise for Source-free Unsupervised Video Domain Adaptation(ICVGIP, 2023)

CleanAdapt(a) 첫 번째 단계에서는 레이블이 붙은 소스 도메인 비디오(D𝑠)를 이용해 모델(𝑓𝑎)을 사전훈련합니다. 이때 단일 스트림 모델만 보여집니다. (b) 사전훈련된 소스 모델을 사용하여 레이블이 없는 대상 도메인 비디오(D𝑡)에 대해 가상 레이블(𝑦ˆ)을 생성합니다. 이 가상 레이블들은 소스와 대상 도메인 간의 도메인 이동으로 인해 불완전합니다. (c) 클린 샘플 선택 모듈을 사용하여 작은 손실을 가진 샘플들을 잠재적으로 클린 샘플로 선택합니다(D𝑐𝑙). 이 클린 샘플들을 이용해 해당 가상 레이블(𝑦ˆ)을 사용하여 사전훈련된 모델을 미세 조정합니다. 이 단계는 여러 번 반복됩니다. ⇒ CleanAdapt 프레임워크는 레이블이 부착된 소스 도메인 비디오를 사용하여 모델을 사전..

[논문 리뷰] Source-Free Video Domain Adaptation with Spatial-Temporal-Historical Consistency Learning(CVPR, 2023)

STHC제안된 STHC 방법론은 두 단계로 구성됩니다. 첫 번째는 레이블이 붙은 소스 비디오를 사용한 소스 모델의 사전훈련 단계이고, 두 번째는 레이블이 없는 대상 비디오를 이용해 모델을 적응시키는 적응 단계입니다. 적응 단계에서는 비디오에 공간적, 시간적 증강을 적용하고, 세 가지 일관성 기술을 통해 일관된 예측을 도모합니다. 또한, 엔트로피 최소화 손실을 통해 모델이 다양하면서도 정확한 예측을 하도록 유도합니다.