딥페이크 탐지 크롬 확장 프로그램: MIT 미디어랩이 인스타그램 피드를 검사하는 실험과 그 한계

핵심 메시지

• MIT 미디어랩 연구자가 인스타그램 피드 위에 딥페이크 여부를 표시하는 크롬 확장 프로그램 '언스펙태큘러 피드'를 시제품 형태로 만들었다.
• 연구의 출발점은 SNS에서 긁어온 사진으로 얼굴을 바꿔치기해 성착취물을 만드는 범죄였고, 2025년 한국에서 크게 불거진 문제이기도 하다.
• 현재의 탐지 모델은 성능이 좋지 않아, 완전히 AI로 만든 이미지를 '진짜처럼 보인다'고 판정하는 경우가 실제로 나온다.
• 생성 모델이 좋아질수록 탐지 모델도 따라 좋아져야 하는 쫓고 쫓기는 구조라, 탐지만으로는 해결이 어렵다.
• 연구자는 플랫폼이 AI 생성 여부를 표시하고 어떤 모델·프롬프트로 만들었는지 메타데이터를 붙이는 방향을 대안으로 제시한다.

쉽게 이해하기

MIT 미디어랩의 한 연구자는 딥페이크를 추적하는 일뿐 아니라, 그 생성물 뒤에 어떤 의도가 있었는지까지 읽어내는 방법을 고민하고 있다. 그가 구분하는 딥페이크 유형은 크게 두 가지다. 하나는 몸은 그대로 두고 얼굴만 다른 사람의 것으로 바꿔치기하는 페이스 스왑이고, 다른 하나는 이미지의 해상도나 특정 부분만 AI로 손보는 보정 계열이다.

연구를 시작한 계기는 기술적 호기심이 아니라 피해였다. 인스타그램이나 개인 계정에서 수집한 사진에 페이스 스왑 모델을 적용해 음란물로 조작하는 사례가 인터넷에서 빠르게 늘었고, 2025년 한국에서는 이 문제가 사회적으로 크게 불거졌다. 그는 이 지점에서 '딥페이크 모델을 어떻게 관리할 것인가', '사람들을 어떻게 보호할 것인가'라는 질문을 붙들게 됐다고 말한다.

그 결과물이 '언스펙태큘러 피드'라는 이름의 크롬 확장 프로그램이다. 아직 완성된 제품이 아니라 가능성을 보여주는 시제품에 가깝다. 확장 프로그램을 켜고 인스타그램 피드로 돌아가면 모델이 피드 전체를 훑으면서 각 게시물이 딥페이크인지 아닌지를 표시하고, 이미지 위에 마우스를 올리면 '부자연스럽게 매끈한 얼굴 처리' 같은 판단 근거와 이런 이미지를 만들 때 쓰였을 법한 프롬프트까지 함께 보여준다.

다만 연구자 본인이 가장 강조하는 것은 탐지 성능의 한계다. 대부분의 탐지 모델은 소라나 스테이블 디퓨전 같은 특정 기반 모델이 만든 이미지를 잡도록 개발돼 있어서, 생성 모델이 새로 좋아질 때마다 탐지 모델도 함께 갱신돼야 한다. 실제 시연에서도 100% AI로 만들어진 이미지를 탐지 모델이 '진짜처럼 보인다'고 판정하는 장면이 나온다.

그가 더 걱정하는 것은 기술이 아니라 사회적 합의의 부재다. 최근 거리에서 벌어진 총격전이라며 퍼진 영상이 사실은 대부분 AI 생성물이었던 사례처럼, 무엇이 현실인지 이야기할 공통의 기준이 없다. 반대로 진짜로 촬영된 사진을 두고도 '딥페이크 아니냐'며 불신을 정당화하는, 이른바 불신의 무기화도 함께 벌어진다.

주요 인사이트

• 딥페이크 탐지는 본질적으로 군비 경쟁이다. 특정 생성 모델을 겨냥해 학습된 탐지기는 새 모델이 나오는 순간 다시 뒤처지므로, 탐지 기술 단독으로는 지속 가능한 해법이 되기 어렵다.
• 판정 결과만 보여주는 것과 판정 근거를 함께 보여주는 것은 사용자 경험이 전혀 다르다. '왜 딥페이크로 봤는지'를 설명하면 모델이 틀렸을 때 사람이 직접 되짚어볼 여지가 생긴다.
• 딥페이크의 진짜 피해는 정치적 가짜뉴스보다 개인을 겨냥한 성적 착취에서 먼저 터졌다. 기술 규범 논의가 실제 피해자를 출발점으로 삼아야 하는 이유다.
• '이건 딥페이크야'라는 말이 진짜 증거를 부정하는 도구로 쓰이면, 조작 기술은 가짜를 만들지 않고도 진실을 무력화한다.
• 생성 시점에 어떤 모델과 프롬프트를 썼는지 메타데이터로 남기는 접근은, 사후 탐지보다 검증 비용이 훨씬 낮은 방향이다.

자주 묻는 질문

관련 AI 소식