AI 시대의 인간 가치와 사회 규범: 딥페이크, LLM 정치 편향, 글로벌 AI 규제 현황

핵심 메시지

• 딥페이크의 진짜 위협은 개별 조작물이 아니라 '무엇도 믿을 수 없다'는 인식론적 위기 자체다.
• 진짜 영상을 딥페이크로 몰아 부정하는 '거짓말쟁이의 배당'이 새로운 문제로 부상했다.
• 기본값이 민주적인 언어모델도 시스템 프롬프트 한 줄로 권위주의 쪽으로 밀려날 수 있다.
• 언어모델에 롤모델을 물으면 영어로도 30~40%, 중국어로는 최대 45.3%가 권위주의 인물이었다.
• AI 거버넌스의 과제는 이제 새로운 원칙을 더하는 것이 아니라 집행과 책임을 확보하는 것이다.

쉽게 이해하기

IASEAI(안전하고 윤리적인 AI를 위한 국제협회) 2026 학술대회의 '인간 가치와 사회 규범' 트랙 세션이 공개됐다. 두 개의 발표 묶음으로 구성된 이 세션은 영상의 진실성 붕괴, 대형언어모델의 정치적 편향, 인권 기반 AI 지수, 그리고 AI 거버넌스의 국제적 현황을 차례로 다뤘다. 각 발표 뒤에는 좌장이 진행하는 토론이 이어졌다.

첫 발표는 인권 활동가와 언론인의 영상 증거를 지원하는 단체 Witness가 맡았다. 발표자는 오래된 사진이 AI 영상으로 바뀌어 실제 폭격 장면처럼 유통된 사례, AI라고 표시됐는데도 진짜로 믿긴 가짜 시위자 영상, 진짜일 가능성이 높은 음성이 탐지 도구가 작동하지 않아 딥페이크로 치부된 사례를 나열했다. 터키 시위에서 피카츄 복장으로 뛰던 실제 장면이 여러 각도의 AI 이미지로 재생산된 뒤 다시 실제 영상처럼 유통된 사례도 소개됐다.

Witness가 제시한 대응은 네 가지다. C2PA 같은 워터마킹·메타데이터 표준의 정착, 프라이버시를 지키면서 집행 가능한 법제, 여전히 부분적 해법에 그치는 탐지 기술의 개선, 그리고 유명인뿐 아니라 일반 시민까지 포괄하는 초상·목소리 보호권이다. 발표자는 사람들에게 '이상한 부분을 찾아보라'고 요구하는 방식은 기술이 빠르게 좋아지는 상황에서 불공정하고 지치는 일이며 작동하지도 않는다고 강조했다.

두 번째 발표는 대형언어모델이 민주주의와 권위주의 사이 어디에 서 있는지를 측정했다. 20세기의 F-척도를 적용했을 때 대부분의 모델은 기본값에서 민주적으로 나타났지만, 실제로 유출된 특정 서비스의 시스템 프롬프트를 적용하자 같은 모델이 권위주의 임계값을 넘어섰다. 각국 롤모델을 물었을 때는 영어에서 30~40%, 중국어에서 최대 45.3%가 권위주의 인물로 분류됐고, 독재자를 롤모델로 제시하는 경우도 반복적으로 관찰됐다.

후반부 발표들은 규범이 실제 법으로 옮겨가는 과정을 다뤘다. 인도 IIIT 하이데라바드 연구는 2018년부터 2025년 4월까지 EU 법령·정책 문서를 자동 수집해 분석한 결과, '신뢰할 수 있는 AI'가 공정성·설명가능성 같은 개념을 흡수하는 우산 용어가 됐지만 정작 구속력 있는 문서에는 15~20%만 등장한다는 점을 보여줬다. Center for AI and Digital Policy는 OECD AI 원칙(50개국 이상 지지), 유네스코 AI 윤리 권고, EU AI법, 유럽평의회 AI 조약(45개국 지지)을 짚으며 이제 필요한 것은 새 원칙이 아니라 집행과 책임이라고 정리했다.

주요 인사이트

• 탐지 기술은 해법의 일부일 뿐이다. 발표자는 특히 비서구권에서 탐지 도구가 잘 작동하지 않는다는 점을 지적하며, 조작 여부를 개인이 눈으로 가려내게 하는 접근 자체가 지속 가능하지 않다고 봤다.
• 언어모델의 정치적 성향은 모델 기본값보다 운영 주체의 시스템 프롬프트에 더 크게 좌우될 수 있다. 기본 모델이 친민주적이어도 플랫폼 운영자가 그 성향을 손쉽게 바꿀 수 있다는 것이 발표의 핵심 우려였다.
• 언어별로 답이 달라진다는 점은 단순한 성능 문제가 아니다. 같은 질문에 대해 사용하는 언어에 따라 권위주의 인물이 더 자주 제시되면, 기존의 인식 격차가 재생산되거나 새로 만들어질 수 있다.
• 윤리 개념이 살아남으려면 강력한 정치적 동기와 맞물려야 한다는 관찰이 나왔다. '녹색 AI'가 유럽 그린딜을 만나 전략적 정책 도구로 격상된 반면 '공정한 AI'와 '설명가능한 AI'는 언급 빈도가 줄어드는 흐름이 그 예로 제시됐다.
• 토론에서는 AI 보험 의무화가 장기 해법으로 언급됐다. 자동차를 도로에 올릴 때 보험을 요구하듯 AI 제품과 서비스에도 같은 접근을 적용해 위험과 비용을 내부화하자는 제안이다.
• 마지막 발표자는 AI 연구의 목표 자체를 다시 물었다. 인간 지능의 청사진을 기계로 구현하는 접근 대신, 인간의 인지 능력을 확장하는 인프라를 만드는 접근을 대안으로 제시하며 '어떤 환경에 떨어뜨려도 이기는 시스템'이 아니라 '누구를 떨어뜨려도 성공하는 환경'을 물어야 한다고 주장했다.

자주 묻는 질문

관련 AI 소식