경북대학교 강재모 교수 연구팀(구성원: Yuchuan Li 박사과정생, 강재모 교수, Il-Min Kim 교수)이 참여한 논문이 세계 최고 권위의 컴퓨터 비전 학술대회인 CVPR 2025에 채택됐다. 이번 연구는 “Beyond Clean Training Data: A Versatile and Model-Agnostic Framework for Out-of-Distribution Detection with Contaminated Training Data”라는 제목으로, 현실 세계에서 필연적으로 발생하는 데이터 오염(Contaminated Data) 문제를 정면으로 다루며, 신뢰가능한 AI(Trustworthy AI) 구현에 핵심적인 기여를 했다. 대부분의 기존 OOD(Out-of-Distribution) 탐지 기법은 훈련 데이터가 100% 정상(In-Distribution) 샘플로만 구성되어 있다고 가정한다. 하지만 실제 환경에서는 라벨링 오류, 자동 수집 과정의 한계 등으로 정상 데이터에 외부 분포(Out-of-Distribution) 샘플이 섞이는 것이 일반적이다. 이러한 오염은 AI 시스템의 신뢰성·안전성을 크게 떨어뜨리며, 생성형 AI를 포함한 모든 AI 응용에서 잘못된 판단을 유발할 수 있다. 본 연구팀은 모델 구조에 구애받지 않고(model-agnostic) 기존 대부분의 OOD 탐지 알고리즘에 플러그인처럼 결합할 수 있는 범용 프레임워크를 개발했다. 핵심 아이디어는 샘플별 동적 가중치 부여와 전이(transition) 메커니즘을 적용하는 반복(iterative) 학습 구조이다. 이를 통해, 오염된 훈련 데이터에서도 높은 OOD 탐지 성능 유지하고 훈련 데이터 내 OOD 샘플 비율을 정밀 추정(세계 최초 시도) 하는 것이 가능하다. ImageNet-1k 등 대규모 데이터셋 실험에서, 본 프레임워크는 다양한 기존 OOD 탐지 기법의 성능을 오염 환경에서도 크게 향상시켰다. 특히, OOD 비율 추정 정확도 측면에서 기존 기법 대비 압도적으로 낮은 오차율을 달성하였고, 탐지 성능 또한 회기적으로 개선시켰는데 데이터 오염 1~2% 상황에서도 AUROC 지표 다수에서 최고 성능을 기록하였다. 이는 AI 모델의 신뢰성을 보장하고, 의료 영상 분석, 자율주행, 보안 감시, 그리고 생성형 AI의 안전한 활용에 이르기까지 폭넓게 적용 가능하다. 강재모 교수는 “이번 연구는 단순히 OOD 탐지 성능 향상에 그치지 않고, 데이터 자체의 신뢰도를 정량화할 수 있는 방법을 제시했다”며, “이는 앞으로 AI 전반, 특히 생성형 AI에서 안전성과 책임성을 확보하는 핵심 기술로 자리매김할 것”이라고 밝혔다.