[연구의 필요성]
웹에서 수집된 대규모 이미지 데이터는 이미지 분류 모델의 학습에 널리 활용되고 있으나, 데이터 내 특정 속성과 클래스 간의 편향된 상관관계가 모델에 그대로 학습될 수 있다는 문제가 있다. 특히 대부분의 학습 데이터가 특정 편향 속성을 공유하는 경우, 기존의 공정성 향상 방법은 편향 속성에 대한 사전 정보나 별도의 라벨링을 필요로 하며, 편향과 충돌하는 데이터가 거의 존재하지 않는 극단적인 상황에서는 성능이 크게 저하되는 한계가 있다.
[연구의 의미]
본 연구는 별도의 편향 주석이나 추가적인 편향 탐지 모델 학습 없이 데이터 내 잠재적 편향을 자동으로 발견하고 수정하는 BiasEdit 프레임워크를 제안한다. BiasEdit은 시각-언어 표현의 통계적 의존성과 상호정보량을 활용하여 클래스와 강하게 연관된 편향 속성을 탐지한 뒤, 텍스트 기반 이미지 편집 모델을 이용하여 해당 속성을 변경한 현실적인 bias-conflict 이미지를 생성한다. 이를 통해 실제 이미지 수준에서 데이터 편향을 완화하고 보다 공정한 시각 분류 모델을 학습할 수 있도록 하였다.
[연구 결과의 진행 상태 및 향후 계획]
BiasEdit은 Colored MNIST, BFFHQ, Dogs & Cats, Waterbirds 등 다양한 편향 분류 벤치마크에서 기존 debiasing 기법보다 우수한 성능을 보였으며, 특히 학습 데이터가 사실상 완전히 편향된 환경에서도 높은 bias-conflict 성능을 유지하였다. 또한 편향 속성을 자동으로 탐지하고 실제 이미지에서 수정하는 과정 자체가 모델의 공정성과 일반화 성능 향상에 기여함을 확인하였다. 향후에는 보다 복잡한 다중 편향 속성과 실제 웹 규모 데이터에 대한 적용을 확대하고, 다양한 형태의 사회적 편향을 효과적으로 완화하는 방향으로 확장할 계획이다.
특히 본 연구에는 학부연구인턴으로 참여한 박윤식(Yoonsik Park), 이창민(Changmin Lee) 학생이 공동저자로 참여하여, 학부 단계의 연구 참여가 세계적 수준의 국제 학회 논문 성과로 이어졌다는 점에서 의미가 있다.
국제 학회 논문:
Jungwook Seo, Yoonsik Park, Changmin Lee, Sungyong Baik, "BiasEdit: A Training-Free Bias-Detect-and-Edit Framework for Learning Fair Visual Classifiers," The Web Conference (WWW) 2026.
※ The Web Conference는 웹, 데이터마이닝, 인공지능 및 웹 기반 시스템 연구를 다루는 세계 최고 수준의 국제 학회 중 하나임.
링크
https://dl.acm.org/doi/abs/10.1145/3774904.3792411
BiasEdit 개념도
정성적 결과