AI 투명성 공시의 빈틈: 호주 상장사 101곳 분석이 드러낸 정보 비대칭의 실체

핵심 메시지

• 국제 AI 안전 보고서는 정보 비대칭을 AI 거버넌스의 네 가지 과제 중 하나로 꼽았고, 이를 기관 투명성과 알고리즘 투명성으로 나눠 봤다.
• 호주 상장사 101곳의 개인정보 처리방침 중 AI를 언급한 곳은 약 32%, 어떤 기술이 쓰이는지 밝힌 곳은 3%에 그쳤다.
• 이용자에게 어떤 형태로든 거부(opt-out) 선택지를 준 곳은 100곳 중 한 곳뿐이었다.
• 투명성 문서의 여섯 곳 중 한 곳은 찾기 어려운 깊은 곳에 묻혀 있고, 대부분 대학원 수준의 독해력을 요구한다.
• 투명성 문서의 단어 열 개 중 하나가 새로 만들어진 용어이며, 조동사와 법률 용어를 동원한 유보적 표현이 두드러진다.

쉽게 이해하기

발표자는 개인정보 전문 변호사와 AI 거버넌스 실무자들이 모인 비영리 단체 메이플트리 AI의 공익 담당자로, 뉴사우스웨일스를 비롯한 여러 곳에 AI 거버넌스 평가를 제공한다. 이번 발표는 '지금 이 순간 호주 사람들에게 AI에 대해 어떤 말이 건네지고 있는가'를 자료로 확인해 보자는 취지다.

출발점은 국제 AI 안전 보고서다. 30개국 100명 넘는 전문가가 참여한 이 보고서에서 의견이 갈린 대목은 많았지만, 기술의 이점을 얻고 위험을 관리하려면 건설적인 AI 담론이 필요하다는 데는 합의가 있었다. 보고서는 AI 거버넌스의 과제 중 하나로 정보 비대칭을 들었고, 이를 기관이 무엇을 공개하는가라는 기관 투명성과 시스템을 설명할 수 있는가라는 알고리즘 투명성으로 구분했다. 한쪽 점수가 높아도 다른 쪽은 낮을 수 있는 별개의 축이다.

단체는 수집할 수 있는 AI 관련 공시를 모두 모아 웹사이트의 탐색 화면에 공개했다. 호주 증권거래소 상장사 약 101곳의 현행 개인정보 처리방침을 살펴본 결과, AI에 대해 무엇이라도 언급한 곳은 약 32%였다. 실제로 소비자에게 무언가를 하는 기술의 이름을 밝힌 곳은 3%뿐이고, 어떤 형태로든 거부 선택지를 제공한 곳은 100곳 중 한 곳이었다. 개인정보 감독기관이 추진하는 자동화된 의사결정 관련 개혁이 12월에 시행되면 기업 책임이 크게 무거워지는데, 현재는 정보 자체가 크게 부족한 상태라는 것이다.

투명성 성명서도 사정이 비슷하다. 여섯 곳 중 한 곳가량은 문서가 상당히 깊은 곳에 묻혀 있고, 공중을 상대로 한 문서에 적합한 열다섯 살 수준의 가독성을 만족하는 곳은 하나도 없었다. 대부분은 대학원 수준의 이해력을 요구한다. 정부 자문에 제출된 공개 의견서에서도 같은 흐름이 나타난다. 사람들은 원칙적으로 투명성을 지지하지만 단서가 따라붙고, 의견서를 낸 전문가들조차 원하는 집행 수단을 구체적으로 지목한 비율은 약 10%에 그쳤다.

발표자는 문서의 언어 자체를 읽는 몇 가지 요령을 제시한다. 투명성 성명서에 등장하는 단어의 약 10분의 1이 새로운 용어나 개념이어서, 호주인을 상대로 한 새 어휘가 지금 만들어지는 중이라는 것이다. 조동사와 법률 용어를 동원한 유보적 표현이 흔하고, 서술의 초점이 조직이 타인에게 무엇을 하는지에 맞춰진 기관 중심 서술이 두드러진다. 심지어 보건부처럼 모든 문장이 다른 문서의 표현과 겹쳐 고유한 내용이 사실상 없는 사례도 있었다. 발표자는 이의 제기 수단과 거부권이 갖춰지면 이런 서술 방식도 바뀔 것으로 보지만 지금은 그런 장치가 없다고 진단한다.

주요 인사이트

• 투명성은 공개 여부만이 아니라 읽을 수 있는지의 문제다. 문서가 존재하더라도 깊이 묻혀 있고 대학원 수준의 독해력을 요구한다면 실질적으로 공개되지 않은 것과 다르지 않다.
• 'AI를 언급한 32%' 대 '거부권을 제공한 1%'라는 간격은 정보 비대칭이 추상적인 우려가 아니라 측정 가능한 수치임을 보여 준다. 담론 대신 자료로 이야기하자는 것이 이 발표의 방법론이다.
• 규제 시행일이 다가올수록 기업 공시는 늘어나겠지만, 새 용어가 쏟아지는 지금이 오히려 어휘의 뜻이 굳어지는 시기다. 어떤 말이 무엇을 뜻하는지 초기에 따져 두지 않으면 나중에 되돌리기 어렵다.
• 이의 제기 수단이 없는 상태에서의 투명성 문서는 조직이 이용자에게 무엇을 하는지 통보하는 형식에 머문다. 서술의 주어가 바뀌려면 문장을 다듬는 것이 아니라 제도를 만드는 일이 필요하다는 뜻이다.

자주 묻는 질문

관련 AI 소식