AI 정렬을 과정으로 바꾸기: 오드리 탕의 시민 AI와 대만 딥페이크 광고 규제 사례

핵심 메시지

• 추천 알고리즘이 클릭과 수익이라는 하나의 결과에 맞춰 정렬되면, 설계대로 작동하면서도 사기 광고를 퍼뜨리는 피해가 생긴다.
• 대만은 광고를 막는 대신 영향을 받는 시민들이 규칙을 직접 정하게 했고, 그 결론이 두 달 만에 법이 되면서 딥페이크 광고가 크게 줄었다.
• 숙의를 돕는 AI는 발언을 정리하고 조용한 참가자에게 말할 시간을 만들어 주며, 모두가 조금씩 만족할 수 있는 잘 드러나지 않던 합의점을 찾아낸다.
• 가정용 소형 모델은 인터넷 없이 기기 안에서만 돌아 같은 입력에 같은 답을 내고, 사용자의 화면 의존을 줄이는 것을 목표로 삼을 수 있다.
• 데이터를 퍼올리는 석유가 아니라 가꾸는 토양으로 보면, 사람을 AI의 부품으로 넣는 대신 공동체 안에 AI를 두는 배치가 가능해진다.

쉽게 이해하기

SXSW 런던 무대에 오른 오드리 탕과 옥스퍼드 AI 윤리연구소의 캐럴라인 에머 데 알부케르케 그린은 AI 정렬을 기술 설계의 문제가 아니라 절차의 문제로 보자고 제안했다. 탕은 기본값인 결과 기준 정렬의 실패 사례로 대만에서 유행한 사기 광고를 들었다. 엔비디아 최고경영자 젠슨 황을 흉내 낸 딥페이크가 투자 조언을 건네고, 사람들이 수백만 달러를 잃었다. 추천 엔진은 고장 난 것이 아니라 클릭과 수익이라는 목표에 정확히 맞춰 작동한 결과였다.

대만이 택한 방식은 광고를 금지하는 것이 아니라 조향 장치를 다는 것이었다. 정부의 신뢰 번호로 20만 건의 문자를 보내 함께 방향을 정하자고 제안했고, 자원한 수천 명 가운데 인구 구성을 그대로 반영하도록 447명을 무작위로 뽑았다. 열 명씩 나뉜 화상 테이블마다 AI가 발언 시간을 관리하고 요약과 기록을 만들며, 아무도 크게 불만스럽지 않으면서 모두가 조금 더 만족하는 합의점을 찾아냈다.

테이블에서 나온 제안들은 구체적이었다. 담뱃갑 경고처럼 광고에 사기 가능성 표시를 붙였다가 광고주가 전자서명으로 책임을 지면 떼자는 안, 동의 없이 노출된 광고로 큰 피해가 났다면 플랫폼도 함께 배상 책임을 지자는 안, 대만에 사무소가 없어 규칙을 무시하는 해외 플랫폼에는 하루마다 짧은 영상의 연결 속도를 1퍼센트씩 늦추자는 안이 나왔다. 어느 것도 내용 검열이 아니었고, 참가자의 85퍼센트 이상이 좋은 안이라고 표를 던졌으며 나머지도 받아들일 수 있다고 답했다. 이 결론은 두 달 만에 법이 됐고, 이후 딥페이크 광고는 94퍼센트 넘게 줄었다.

탕은 같은 방식이 도시와 국가 규모에서도, 가정 안에서도 작동한다고 말했다. 일본에서는 서른셋의 작가 겸 엔지니어가 같은 오픈소스 도구로 공약을 크라우드소싱해 도쿄 도지사 선거에 나섰고, 낙선했지만 도쿄의 장기 구상 협의를 맡은 뒤 국회의원이 됐다. 가정 규모의 사례는 탕의 아버지였다. 건강 문제로 밤늦게까지 챗봇과 대화하며 근거가 약한 처방을 권유받자, 가족용 메신저 안에서만 도는 작은 시스템을 직접 만들었다. 이 시스템의 유일한 목표는 아버지가 화면에 덜 기대고 옆방의 어머니를 더 생생하게 느끼도록 돕는 것이었다.

두 사람은 정치철학자 조앤 트론토의 돌봄 윤리를 빌려 이 구상을 여섯 개의 요소로 정리한다. 필요를 알아차리는 주의, 관계를 맺는 책임, 특정 업체에 묶이지 않고 실행할 수 있는 역량, 새 요구에 곧바로 방향을 트는 응답성이 돌봄의 고리를 이루고, 여기에 하드웨어와 소프트웨어를 갈아탈 수 있는 연대와 영역을 넘보지 않는 공생이 더해진다. 그린은 큰 기술 기업들이 말하는 다정한 AI가 돌봄을 연기하는 데 그친다면, 실천으로서의 돌봄은 상대가 그건 좋은 돌봄이 아니었다고 말할 수 있고 그에 따라 바뀌는 관계라고 짚었다.

주요 인사이트

• 정렬을 모델 안의 목표 함수가 아니라 누가 규칙을 정하느냐의 문제로 옮기면, 영향을 받는 사람들이 의제를 세우는 것 자체가 정렬 작업이 된다.
• 참여의 문턱을 낮추는 설계가 결과를 좌우했다. 시청에 직접 나와야 했다면 이동이 어렵거나 시간을 내기 힘든 사람들이 빠졌겠지만, 문자와 휴대폰, 시간에 대한 보상으로 그 격차를 줄였다.
• 숙의 결과가 정책이 된 힘은 대표성에 있었다. 거주지나 직업, 피해 경험과 무관하게 같은 결론이 나왔다는 사실이 의원들에게 보이면서 논의의 창이 이동했다.
• 작은 모델이 오히려 정확할 수 있다. 티베트 공동체는 경전과 가르침만 담은 소형 모델을 만들어 휴대폰에서 돌리는데, 거대 모델보다 환각이 적고 맥락에 맞는 답을 낸다는 것이 탕의 관찰이다.
• 탕은 안전한 이륙을 논해 온 초지능 논의에 안전한 착륙이라는 질문을 더한다. 모든 문제를 하나의 거대한 시스템으로 풀기보다 각 공동체가 자기 몫을 맡고 AI가 그 사이를 잇게 하자는 제안이다.

자주 묻는 질문

관련 AI 소식