커뮤니티 노트 작동 원리: '의외의 합의' 알고리즘과 AI 협업으로 바이럴 허위정보를 줄이는 법

핵심 메시지

• 커뮤니티 노트는 일반 사용자가 작성하고, 평소 서로 의견이 갈리던 사람들이 모두 '도움이 된다'고 평가한 메모만 게시물에 노출된다.
• 알고리즘 코드와 데이터가 전부 공개돼 있고 '거부권(override) 버튼'이 없어, 회사나 권력자가 특정 노트를 임의로 내릴 수 없다.
• 노트가 붙으면 알고리즘이 게시물을 강등하지 않아도 사용자들이 자발적으로 공유를 줄여 재게시가 약 50% 감소한다.
• AI가 노트 초안을 빠르게 생성하고 사람이 평가·수정하는 인간-AI 협업으로 속도와 규모를 늘리는 실험이 진행 중이다.
• 허위정보를 막는 '방어'를 넘어, 서로 다른 진영이 함께 공감하는 의견을 드러내는 '공통 기반 찾기'로 확장하려 한다.

쉽게 이해하기

커뮤니티 노트는 X(옛 트위터)에서 오해를 부르거나 틀린 게시물에 맥락을 덧붙이는 기능이다. 노트는 전문가가 아니라 일반 기여자가 작성하며, 게시물에 실제로 붙어 모두에게 보이기 전에 서로 다른 관점을 가진 사람들에게서 '도움이 된다'는 평가를 받아야 한다. 발표에서는 AI로 생성된 가짜 군함 피해 이미지에 구체적 근거를 담은 노트가 달린 사례가 소개됐다.

핵심은 단순 다수결 투표가 아니라 '의외의 합의(surprising agreement)', 즉 평소 서로 의견이 달랐던 사람들이 모두 동의할 때만 노트를 노출하는 방식이다. 한쪽 진영만 좋아하는 양극화된 노트는 걸러지고, 양쪽이 함께 인정한 노트만 살아남는다. 이 때문에 노트는 1차 출처를 근거로 삼고 중립적인 표현을 쓰는 경향이 강해진다.

기존 팩트체크는 결과가 나오기까지 며칠이 걸리고 검토 규모도 작았으며, 무엇보다 사람들이 테크 기업의 판정을 신뢰하지 않는다는 문제가 있었다. 커뮤니티 노트는 코드와 데이터를 공개하고, 어떤 게시물이든(정상 국가 원수나 회사 자신의 게시물 포함) 노트 대상이 될 수 있게 해 신뢰 문제를 정면으로 다뤘다.

노트가 붙은 게시물은 추천 알고리즘이 끌어내리지 않아도 조회수가 급격히 평탄해진다. 사람들이 게시물이 틀렸음을 알아차리고 스스로 덜 공유하기 때문이다. 스탠퍼드·MIT 등 여러 연구진이 공개 데이터로 분석해 재게시가 약 50% 줄어든다는 같은 결과를 확인했다.

최근에는 AI 기여자용 공개 API를 열어, AI가 노트 초안을 빠르게 쓰고 사람이 평가·수정하는 협업을 실험하고 있다. 사람의 수정과 제안은 다시 AI 학습 데이터가 되어 모델을 더 정확하고 덜 편향되게 만든다. 발표자들은 이를 '커뮤니티 피드백 기반 강화학습'이라 부른다.

주요 인사이트

• 양극화를 제거 대상이 아니라 자원으로 활용한다. 어떤 주장에든 반대 성향의 사람이 있기에, 그들이 출처를 꼼꼼히 검증한 뒤에야 동의한 노트는 더 정확해진다.
• 투명성이 신뢰의 토대다. 운영 알고리즘과 데이터를 누구나 내려받아 조작이 없음을 검증할 수 있다는 점이 양쪽 진영의 신뢰를 동시에 끌어낸다.
• 조작 시도에 대비해 신뢰할 수 있는 통신사의 전화번호 인증, 유사 평가자 묶기, 무작위 표본 평가자와의 비교 같은 방어 장치를 둔다. 그래도 틀린 노트는 빠르게 '도움 안 됨' 평가를 받아 자기 교정된다.
• 수익 구조도 바꿨다. 노트가 붙은 게시물은 수익을 낼 수 없게 했고, 전쟁·분쟁의 AI 생성 영상을 표시 없이 올리면 수익 배분 프로그램에서 정지된다.
• 허위정보 차단이라는 방어를 넘어, 서로 다른 관점의 사람들이 공통으로 공감하는 의견을 드러내는 '공통 기반 엔진'으로 발전시키려는 비전을 제시한다.

자주 묻는 질문