오드리 탕 기조연설 정리: 시민 AI와 돌봄의 6원칙, 대만 딥페이크 사기 대응 사례

핵심 메시지

• 모든 것을 최적화하는 하나의 초지능은 효율적이지만, 단일 재배처럼 단 한 번의 실패에 전체가 무너질 수 있다.
• 가짜 여론을 대량으로 만들어 내는 AI 무리는 인간의 주체성을 힘으로 빼앗는 대신 무의미하게 만든다.
• 대만은 딥페이크 투자 사기에 검열 대신 추첨으로 뽑은 시민 447명의 숙의로 대응했고, 그 결과를 법으로 옮겼다.
• AI 정렬은 고정된 가치 목록이 아니라 계속 돌아가는 민주적 절차여야 한다는 데 참여 의견이 모였다.
• 일본의 신 개념을 빌려, 학교·병원·조합마다 좁고 검증 가능하며 교체 가능한 AI가 있는 편이 낫다고 제안했다.

쉽게 이해하기

대만의 초대 디지털 담당 장관이자 사이버 대사로 일한 연사는 비행기 안 이야기로 기조연설을 열었다. 클라우드에 연결되지 않은 작은 컴퓨터에 담긴 시민 AI에게 민주주의에 관한 글을 부탁했더니, 정책이나 최적화가 아니라 '먼저 듣는 일'에 관해 썼다는 것이다. 손에 들고 들여다보고 언제든 끌 수 있는 기계라는 점이 이 장면의 핵심이었다.

그가 대비시킨 것은 '기본값 경로'다. 모든 데이터를 학습한 하나의 일반 지능이 위에서 모든 것을 통치하고 최적화하면 민주주의는 파괴되는 것이 아니라 자전거 보조바퀴처럼 불필요해진다는 시나리오다. 연사는 이것이 먼 미래의 가정이 아니라고 말하며, 온라인에서 지속적인 정체성을 유지하고 친밀감을 꾸며 내며 조작 대상이 동의한 적 없는 목표를 향해 협력하는 악성 AI 무리에 관한 공동 연구를 언급했다. 존재하지 않는 대중을 실재하는 대중과 구별할 수 없게 시뮬레이션할 수 있게 된 것이 문제의 핵심이다.

구체적인 사례로 2024년 대만을 덮친 AI 생성 사기 광고가 제시됐다. 신뢰받는 공인의 얼굴과 목소리를 딥페이크로 만들어 투자와 치료제를 권했고, 딥페이크라는 말조차 처음 듣는 시민들이 실제로 돈을 잃었다. 검열은 손쉬운 해법이지만 아시아에서 가장 자유로운 인터넷을 지켜 온 대만에서는 더 큰 문제를 만드는 선택이었다. 그래서 무작위 문자 발송과 추첨으로 인구 구성을 반영한 시민 447명을 뽑아 44개의 온라인 방에서 숙의하게 했다.

각 방에는 시민 AI가 기록과 정리를 맡았지만 판단은 하지 않았다. 논점을 정리하고 뜻밖의 공통 지반을 드러내며, 목소리가 큰 사람에게 조용한 사람이 묻히지 않게 하는 역할이었다. 플랫폼의 광고주 검증 의무와 딥페이크 피해의 책임 배분을 두고 논쟁은 뜨거웠지만, 참가자의 85% 이상이 권고안 묶음에 동의했고 나머지도 받아들일 수 있다고 답했다. 이 결과가 법으로 옮겨진 뒤 1년 안에 신원 사칭 사기 앱이 94% 줄었다는 것이 연사의 설명이다.

이 경험에서 나온 설계 원칙이 '돌봄의 6원칙'이다. 문제에 가장 가까운 사람이 무엇을 보고 있는지 먼저 묻는 주의 깊음, 실패했을 때 어떻게 바로잡을지 미리 약속하는 책임, 과정을 공개적으로 검증할 수 있는 역량, 피해자가 결과에 이의를 제기해 실제 수리를 이끌어 내는 응답성, 떠날 자유를 포함한 신뢰와 연대, 그리고 모든 시스템이 넘겨주고 종료될 수 있어야 한다는 공생이다. 연사는 이를 이상향이 아니라 민주 사회에 투입되기 위한 최소 기준으로 규정했다.

주요 인사이트

• 숙의의 성과로 '공통의 지식'이 강조됐다. 모두가 동의했다는 사실을 모두가 알고 있다는 상태가 만들어져야 정책으로 옮길 만큼의 정당성이 생기며, 이는 단순한 다수결과 다르다.
• 갈등을 두려워할 화산이 아니라 활용할 지열로 다루자는 비유가 제시됐다. 논쟁의 열기 자체를 없애는 대신 방향을 잡아 주면 집단적 결정의 동력이 된다는 것이다.
• AI가 모든 현명한 결정을 대신하면 민주적 근육은 쓰지 않아 위축된다는 지적도 나왔다. 로봇 아바타를 헬스장에 보내 놓고 내 복근이 생기기를 기대하는 셈이라는 비유였다.
• 각자의 견해를 학습한 수백 개의 에이전트가 대신 숙의한 실험에서는 공공 유틸리티 성격의 컴퓨팅 자원, 오픈소스 투명성, 개인이 가지고 다닐 수 있는 디지털 주권으로 옮겨 가야 한다는 쪽으로 의견이 모였다.
• 다만 연사는 대만의 447명이 대리인이 아니라 직접 참여했다는 점을 강조하며, 감정의 결까지 포함한 사람 간 숙의를 기계에 위임하지 말자고 마무리했다.

자주 묻는 질문

관련 AI 소식