[연구의 필요성]
심층 신경망(Deep Neural Networks, DNN)은 뛰어난 성능을 보이지만, 데이터 수집과 주석 작업에 많은 시간과 노력이 필요하다. 특히, DNN은 적은 예제로 새로운 개념을 학습하면서 기존 지식을 유지하기 어려운 문제가 있다. 이를 해결하기 위해 소량 데이터 기반 클래스 증분 학습(Few-Shot Class-Incremental Learning, FSCIL)은 적은 수의 예제로 새로운 클래스를 학습하면서 기존 클래스의 성능을 유지하는 인공지능 시스템을 설계하는 것을 목표로 한다. FSCIL의 목표를 달성하기 위해서는 기존 지식을 잊는 현상(catastrophic forgetting)과 적은 예제에 과적합되는 현상(overfitting)을 해결해야 한다.
[연구의 의미]
본 연구는 FSCIL 문제에 적합한 표현 학습 방법(Representation Learning)을 탐구하여, 베이스 클래스에서의 변별력(discirminability)과 새로운 클래스에 대한 전이(transferability) 가능성 사이의 균형을 맞추고자 한다. 클래스 간 거리를 늘리는 것에 집중한 기존 연구들과 달리, 본 연구는 클래스 간 거리를 줄이는 것이 변별력과 전이 가능성 간의 균형을 개선할 수 있음을 발견했다. 이를 통해 새로운 표현 학습 방법(CLOSER)을 제안하여, FSCIL 문제를 해결하는 데 있어 기존 방법들보다 뛰어난 성능을 보여주었다.
[연구 결과의 진행 상태 및 향후 계획]
본 연구에서 제안한 방법(CLOSER)은 이전 방법들과 비교하여 FSCIL 문제에서 뛰어난 성능을 입증하였다. 실험 결과와 정보 병목 이론 기반의 분석은 클래스 간 거리를 줄이는 것이 변별력과 전이 가능성 간의 균형을 개선하는 데 효과적임을 시사한다. 향후 연구에서는 이 방법을 더욱 고도화하여 FSCIL 문제 해결을 위한 새로운 연구 방향을 제시할 계획이다.
[성과와 관련된 실적]
국제 학회 논문:
Junghun Oh*, Sungyong Baik*, and Kyoung Mu Lee. "CLOSER: Towards Better Representation Learning for Few-Shot Class-Incremental Learning," ECCV 2024.
* co-first authors
※ ECCV (European Conference on Computer Vision)는 컴퓨터공학을 구성하는 분야 중 하나인 “컴퓨터 비전 (Computer Vision; CV)” 분야 및 "인공지능 (Artificial Intelligence; AI)" 분야와 "기계학습 (Machine Learning; ML)" 분야를 대표하는 세계 최고 수준의 국제 학회임 (Google Scholar "Engineering & Computer Science" 분야 저널 & 학회 영향령지수 랭킹에서 Top 7 그리고 전 분야에서 Top 21).