클래스 레벨 머신 언러닝이란: 재학습 없이 특정 클래스를 지우는 방법과 얽힘 문제

핵심 메시지

• 머신 언러닝은 학습이 끝난 모델에서 특정 데이터의 영향을 제거하는 문제로, 개인정보 보호 규제 강화와 배포 후 수정 요구가 커지며 중요해졌다.
• 특정 데이터의 영향은 가중치 하나에 모여 있지 않고 전체에 조금씩 분산돼 있어, 그 데이터만 정확히 지우기가 어렵다.
• 언러닝의 목표는 삭제 대상 클래스의 정확도를 0으로 만드는 것이 아니라, 그 클래스 없이 처음부터 학습한 모델과 구분되지 않게 만드는 것이다.
• 비슷한 클래스는 잠재 공간에서 특징을 공유하기 때문에, 한 클래스를 지우면 의미적으로 가까운 클래스의 성능까지 함께 떨어진다.
• 삭제 흔적이 남았는지 검증하는 지표가 정확도만큼 중요하며, 과도하게 지우면 오히려 지운 티가 드러난다.

쉽게 이해하기

DMQA 연구실의 오픈 세미나에서 김성범 교수 지도로 석박사 통합 과정을 밟고 있는 안시우 연구자가 클래스 레벨 언러닝을 주제로 발표했다. 머신 언러닝은 여러 데이터로 잘 학습된 원본 모델에서 특정 데이터의 영향만 걷어내 언러닝 모델을 만드는 작업이다. 문제는 특정 데이터의 영향이 특정 가중치에 몰려 있지 않고 모델 전체에 분산돼 있으며 데이터끼리 섞여 있다는 점이다.

용어부터 정리하면, 지울 데이터를 애초에 빼고 처음부터 다시 학습하는 방식이 이그잭트 언러닝, 흔히 말하는 재학습이다. 확실하지만 비용이 크다. 반면 이미 학습한 모델에서 해당 데이터를 사후에 지우는 방식이 어프록시메이트 언러닝이고, 통상 머신 언러닝이라고 하면 이쪽을 가리킨다. 이때 재학습 모델은 언러닝이 도달해야 할 정답 모델 역할을 한다.

클래스 단위 삭제가 개별 샘플 삭제보다 까다로운 이유는 파급력에 있다. 저작권이나 계약 종료, 클래스 오염 같은 실무 상황에서 카테고리 통째로 지워야 할 일이 생기는데, 클래스들의 분포가 겹치는 구간이 있어 모델을 업데이트할 때 영향이 넓게 번진다. 그리고 삭제 후 예측이 모든 클래스에 균등하게 퍼져 버리면, 오히려 그 클래스를 지웠다는 티가 나 버린다.

세미나가 핵심 문제로 짚은 것이 클래스 얽힘이다. 호랑이를 지우려 하면 잠재 공간에서 특징을 공유하는 고양이와 사자까지 손상돼 전체 성능이 떨어진다. 첫 번째로 소개된 논문은 이를 두 단계로 푼다. 1단계에서 지울 클래스의 손실을 키우면서 무관한 클래스는 보존하고, 2단계에서 그래디언트를 직교화해 손상된 유사 클래스만 정밀하게 회복시키는 방식이다.

두 번째로 소개된 MeGU는 시각-언어 모델을 활용한다. 여러 장의 이미지를 함께 이해하도록 학습된 VLM으로 클래스 간 유사도를 재고, 지울 클래스와 지나치게 가까운 클래스 대신 유사도 상위 30% 수준의 중간 클래스로 레이블을 바꾼다. 이어 모델이 그 클래스로 확신하게 만드는 노이즈와 원래 클래스로 보이지 않게 만드는 노이즈를 학습해 실제 이미지에 씌우는 방식이다.

주요 인사이트

• 언러닝 평가에서 삭제 대상 클래스의 성능은 낮을수록 좋지만, 무작정 낮은 것이 좋은 것은 아니다. 재학습 모델과 얼마나 구분되지 않는지가 실제 기준이다.
• 멤버십 추론 공격 지표가 이 분야에서 중요한 이유는 정확도만으로는 잡히지 않는 삭제 흔적을 잡아내기 때문이다. 발표자는 MeGU가 이 지표에서 재학습 모델보다 한참 낮은 값을 보여, 오히려 지운 티가 난다는 점을 문제로 지적했다.
• 언러닝 기법은 데이터 관점, 모델 파라미터 관점, 대체 모델 관점으로 나뉘지만 실제로는 두 가지 이상을 결합했을 때 성능이 잘 나오는 경우가 많다.
• 두 단계 방식의 실험 결과를 보면, 지울 클래스와 완전히 다른 자동차 클래스는 성능이 유지되는데 유사한 고양이·사자 클래스는 기법에 따라 20 이상 떨어지기도 한다. 얽힘이 숫자로 드러나는 지점이다.
• MeGU가 쓴 0.7과 0.3 같은 노이즈 결합 비율은 이론적으로 유도된 값이 아니라 논문 부록에서 경험적으로 찾은 값이다.

자주 묻는 질문

관련 AI 소식