AI 위험 커뮤니케이션 연구 — 멸종 경고보다 일자리와 아이가 사람을 움직인다

핵심 메시지

• 미국 대표 표본 1천여 명을 대상으로 여섯 가지 범주의 메시지를 실험한 결과, 실존적·파국적 위험 메시지가 모든 집단에서 가장 반응이 낮고 행동으로 이어질 가능성도 가장 작았다.
• 가장 강하게 사람을 움직인 것은 AI가 일자리와 소득, 그리고 자녀를 위협할 수 있다는 메시지였다.
• 사람이 파국적 위험 메시지를 받아들이기 어려운 데는 세 가지 심리 기제가 있다. 죽음 회피, 지수적 성장에 대한 편향, 그리고 자기 경험과 연결되지 않으면 반응하지 않는 자기참조 효과다.
• 문제는 대중이 규제를 원하지 않는다는 것이 아니라, 우선순위 목록에서 아래쪽에 있다는 것이다. 이를 '정책 수요 결핍'이라 부른다.
• 설득과 조작은 다르다. 설득은 상대가 이미 신경 쓰고 있는 것과 이 문제가 연결돼 있음을 깨닫게 하는 일이라는 게 발표자들의 입장이다.

쉽게 이해하기

안전하고 윤리적인 AI를 위한 국제협회(IASEAI)가 세 번째 공개 질의응답 세션을 열고 'AI 위험을 대중에게 어떻게 전달할 것인가'를 다뤘다. 발표자는 비영리 단체 사이스믹 파운데이션(Seismic Foundation)의 CEO 산더 볼텐과 전략 디렉터 필립 트리펜바흐, 그리고 IASEAI 부사무국장 줄리아 어윈이었다. 사이스믹은 설립 1년 남짓 된 미국 비영리 단체로, 광고·마케팅·커뮤니케이션 업계 출신들이 모여 있다. 볼텐은 광고업계에서 25년을 보내고 자신이 세운 회사를 옴니콤에 매각한 뒤 대형 광고사를 운영하다가, 2년 전 AI가 사회에 미치는 영향을 걱정하게 되면서 이 단체를 만들었다고 밝혔다.

연구의 출발점은 단순한 의문이었다. 스튜어트 러셀, 요슈아 벤지오, 제프리 힌턴 같은 세계적 인물들이 수년간 AI의 파국적 위험을 경고해왔는데, 왜 그것이 공론장에 거의 울리지 않는가. 트리펜바흐는 기존 심리학 연구를 뒤진 결과 세 가지 장벽을 확인했다고 설명했다. 첫째는 죽음 회피다. 언젠가 죽는다는 사실을 상기시키는 메시지를 받으면 사람은 그 메시지를 무시하고 전달자를 거부할 뿐 아니라, 원래 갖고 있던 세계관에 오히려 더 매달린다. 둘째는 지수적 성장 편향으로, 코로나19 때 먼 이야기처럼 보이던 것이 갑자기 문 앞에 와 있던 경험이 그 예다. 셋째는 자기참조 효과다.

그다음 미국 인구를 대표하는 표본으로 메시지 실험을 진행했다. 실존적 위험, 파국적 위험, 불평등과 권력 집중, 정신건강, 생물학적 위협을 포함한 대량살상 위험, 일자리, 아이들에 대한 위험 등 여섯 범주를 시험했다. 결과는 명확했다. 실존적 위험 메시지가 가장 참여도가 낮았고 행동을 끌어낼 가능성도 가장 낮았다. 반대로 일자리와 소득, 자녀에 대한 위협은 강하게 동기를 부여했다.

4천 명 이상을 대상으로 한 후속 조사에서는 대중이 실제로 걱정하는 근접 피해의 순위가 드러났다. 1위는 사기와 딥페이크 같은 기만 가능성, 2위는 비판적 사고의 약화, 3위는 일자리였다. '멸종'이 아니라 '통제 상실'이라는 표현을 쓰면 순위가 4위까지 올라오지만, 그럼에도 이를 우려로 꼽는 사람은 다섯 명 중 한 명에 그쳤다. AI 규제를 지지하게 만드는 요인 1위는 'AI가 내 아이의 안전을 위협할 때'였고, 자녀가 없는 응답자에게는 '무엇이 진실인지 알기 어려워질 때'가 1위였다.

트리펜바흐는 자신들이 풀려는 문제를 '정책 수요 결핍'이라고 표현했다. 파트너 단체들이 장관이나 의원을 찾아가 백서를 내밀면 돌아오는 답이 늘 비슷하다는 것이다. "좋은 자료인 것 같은데, 사람들이 제 사무실 문을 두드리며 입법하라고 요구할 때 다시 오세요." 여론조사를 보면 거의 모든 나라에서 압도적 다수가 더 많은 AI 규제를 원하지만, 그 사안이 일자리·경제·의료·주거보다 아래에 놓여 있다는 게 문제라는 것이다.

세션 후반에는 인지 편향을 이용하는 것이 대중 조작 아니냐는 날카로운 질문도 나왔다. 트리펜바흐는 설득과 조작을 분명히 구분했다. 커뮤니케이션은 메시지가 아니라 청중이 무엇에 관심 있는지를 이해하는 데서 출발하며, 설득이란 상대가 이미 신경 쓰던 것과 이 문제가 연결돼 있음을 깨닫게 하는 일이라는 것이다. 그는 자신이 본 수치로 미국 의회 개회일 기준 하루 40만 달러가 워싱턴에서 기술 진영 로비에 쓰이고 있다며, 규제 반대 쪽이 서사를 지키기 위해 막대한 자원을 쏟고 있다고 덧붙였다.

주요 인사이트

• 대중이 AI를 '소셜미디어의 연장'쯤으로 인식한다는 점은 통상 약점으로 여겨지지만, 아동 보호 캠페인에서는 오히려 이점이 된다고 한다. 소셜미디어의 해악은 20년치 증거가 쌓여 있고 이미 조직된 시민사회 단체들이 있기 때문이다.
• AI 도입이 '불가피하다'는 업계의 프레이밍이 오히려 틈을 만든다는 분석이 흥미롭다. 그 프레이밍은 '이 일이 일어나고 있는가'와 '이것이 받아들일 만한가'라는 두 질문을 뭉개버리는데, 조사 결과 대중은 AI 자체가 아니라 자기 의견도, 안전장치도, 책임 소재도 없이 자신에게 무언가가 행해지는 상황에 반대하고 있었다.
• 인구통계보다 관심사 기반 타기팅이 효과적이라는 결론도 실무적으로 유용하다. 특히 미국의 시설관리·설치·수리·청소 직군은 현재 AI 논쟁에 거의 참여하지 않지만, 짧은 설명만 접해도 가장 활성화된 집단의 최상위로 이동할 만큼 설득 가능성이 높은 것으로 나타났다.
• 핵무기 비확산 조약을 협상한 정치인들은 제2차 세계대전을 직접 겪은 세대였다는 지적이 나왔다. 폭격당한 도시를 몸으로 경험한 사람들이었기에 '다시는 안 된다'가 가능했다는 것이다. AI에는 그런 공유된 직접 경험이 아직 없다.
• 발표자들은 자신들이 커뮤니케이션 전문가일 뿐 AI 기술이나 정책 전문가가 아니라는 점을 반복해서 강조했다. 무엇을 알릴지는 전문가 공동체에서 와야 하고, 대중 운동을 만들더라도 그것이 올바른 문제를 겨냥하고 올바른 해법으로 향하는지 늘 점검해야 한다는 것이다.

자주 묻는 질문

관련 AI 소식