딥페이크 탐지 방법 — 물리법칙·기하학·워터마크로 AI 생성 콘텐츠 가려내기

핵심 메시지

• 생성 AI는 수십억 장의 이미지·영상 패턴을 학습할 뿐, 렌즈·물리·기하학·3차원 세계를 이해하지 못한다. 탐지는 바로 이 빈틈을 파고든다.
• 야외의 그림자는 하나의 지배적 광원(태양)으로 수렴해야 한다. 여러 그림자에서 광원을 역산했을 때 한 점으로 모이지 않으면 물리적으로 불가능한 장면이다.
• 평행선은 사진에서 소실점으로 수렴한다(투영기하학). 이 규칙을 어기면 기하학적으로 조작된 이미지다. AI는 2차원에 살아 3차원 추론을 못 하므로 이를 흉내 내기 어렵다.
• 생성기마다 이미지를 JPEG·PNG로 ‘포장’하는 방식이 달라, 그 포장만으로 출처(OpenAI·Anthropic·카메라 등)를 추정할 수 있다. 또 구글은 생성물에 보이지 않는 워터마크를 넣기 시작했다.
• 그러나 평범한 사람은 이런 가짜를 신뢰성 있게 구별할 수 없다. 기법은 6주만 지나도 무력해질 만큼 빠르게 바뀌며, 전문가조차 가까스로 해낸다.

쉽게 이해하기

전문가는 딥페이크 탐지의 출발점으로 생성 AI의 근본 한계를 든다. 생성 AI는 수십억 장의 이미지·오디오·영상에서 패턴을 학습해 그럴듯한 결과를 만들 뿐, 렌즈가 무엇인지, 세상의 물리와 기하가 어떻게 작동하는지는 모른다. 우리가 있는 3차원 세계를 재현하는 것이 아니라는 점이 모든 탐지 기법의 토대다.

첫 번째 기법은 그림자다. 맑은 날 야외에서는 모든 그림자가 태양이라는 단일 지배 광원에서 비롯돼야 한다. 그림자와 그것을 드리운 물체로부터 광원 위치를 여러 번 역산해 한 점으로 수렴하지 않으면 물리적으로 불가능한 장면이다. AI가 쉽게 따라 할 것 같지만, 이는 3차원 과정이고 AI는 2차원 세계에 살기에 흉내 내기 어렵다.

두 번째는 소실점이다. 실제로 평행한 철길이나 창틀·건물 모서리는 사진에서 한 소실점으로 수렴한다. 르네상스 화가들이 수백 년 전부터 이해한 투영기하학으로, 이미지에서 이 규칙의 위반을 측정하면 조작을 잡아낼 수 있다.

세 번째는 파일의 ‘포장’ 방식이다. 생성기는 픽셀을 만든 뒤 JPEG·PNG로 묶는데, OpenAI·Anthropic·미드저니, 휴대폰 카메라, 포토샵이 저마다 다르게 포장한다. 이 포장을 살펴 출처가 어디와 일치하는지 판단할 수 있다. 여기에 더해 구글은 생성 시점에 사람 눈에 안 보이는 워터마크를 심기 시작했고, 전용 소프트웨어로 그 표식을 확인한다 — 지폐의 위조 방지 워터마크와 같은 원리다.

음향도 단서다. 잔향은 주변의 물리적 구조에 따라 일정해야 하는데, AI 생성 음성은 한 녹음 안에서도 마이크와 잔향이 부자연스럽게 변한다. 또 오픈소스 페이스스왑은 얼굴에 사각 경계상자를 씌워 합성 후 되붙이는데, 눈에 안 보여도 그 흔적을 역공학으로 찾아낸다. 다만 일부 기법은 상대가 우회할까 봐 공개하지 않는다. 결론적으로 전문가는 평범한 사람이 가짜를 신뢰성 있게 구별하는 것은 불가능하며, 어설픈 지식은 오히려 잘못된 안도감을 준다고 못 박는다.

주요 인사이트

• 탐지 기법은 ‘사후(수동)’와 ‘능동’으로 나뉜다. 도착한 콘텐츠를 분석하거나, 생성 시점에 워터마크를 심어두는 방식이다.
• AI는 2차원 세계에 살아 3차원을 추론하지 못한다 — 그림자의 단일 광원 수렴이나 소실점 같은 물리·기하 규칙이 강력한 탐지 단서가 되는 근본 이유다.
• 음성도 단서가 된다. 잔향은 공간 구조에 따라 일정해야 하는데, AI 생성 음성은 한 녹음 안에서도 마이크·잔향이 부자연스럽게 변한다.
• 오픈소스 페이스스왑은 얼굴에 사각 경계상자를 씌워 합성하는데, 눈에 안 보여도 그 경계상자 흔적을 역공학으로 찾아낼 수 있다.
• 가장 중요한 현실은, 일반인은 SNS를 넘기며 진짜·가짜를 안정적으로 구별할 수 없고 어설픈 요령은 오히려 위험한 안도감을 준다는 것이다.

자주 묻는 질문

관련 AI 소식