스티글리츠 AI 정보 생태계 경고 — 저작권·허위정보·규제가 만드는 붕괴 균형

핵심 메시지

• AI는 정보 처리와 전달의 효율을 크게 높이지만, 동시에 정보 생태계를 악화시켜 사회·경제·민주주의의 작동을 해칠 수 있다.
• AI 기업이 언론과 저자의 산출물을 가져가면 원본으로 가는 방문이 줄고, 정보 생산자의 수익과 생산 유인이 함께 감소한다.
• 허위·조작 정보와 딥페이크를 만들기가 상대적으로 더 쉬워지면서, 진실한 정보를 만들 유인이 더욱 약해진다.
• 게임이론 모형에서는 진실만 생산되는 균형, 진실과 거짓이 섞이는 균형, 그리고 진실이 사라지는 '붕괴 균형' 세 가지가 나타난다.
• 저자들은 붕괴가 필연은 아니라고 보며, 저작권 체계 정비와 플랫폼의 투명성·책임 강화를 핵심 정책 수단으로 제시한다.

쉽게 이해하기

노벨 경제학상 수상자 조지프 스티글리츠와 공저자 막심 벤투라볼레트는 스탠퍼드 디지털 이코노미 랩 대담에서, AI가 정보를 다루는 효율을 놀라울 만큼 끌어올렸음에도 정보 생태계 자체는 나빠질 수 있다는 우려에서 논문을 시작했다고 밝혔다. 정보 생태계가 나빠지면 사회와 경제, 민주주의의 작동도 함께 나빠진다는 것이 전제다.

첫 번째 경로는 수익 구조다. AI 기업이 신문이나 저자가 만든 정보를 가져다 자사 기술에 집어넣으면 사람들은 원 출처를 찾아가지 않게 되고, 정보를 생산하던 쪽의 수입과 생산 유인이 줄어든다. 스티글리츠는 '쓰레기가 들어가면 쓰레기가 나온다(GIGO)'는 오래된 표현을 들어, 입력 정보의 질이 떨어지면 아무리 정교하게 분석해도 결과의 질은 담보되지 않는다고 지적했다. 두 번째 경로는 탐지하기 어려운 딥페이크와 허위·조작 정보의 확산이다.

두 사람은 이 복잡한 힘들을 게임이론 모형으로 단순화했다. 등장인물은 정보 생산자(기존 언론), 소비자, 그리고 AI 중개자 셋이다. 생산자는 진실한 정보와 그렇지 않은 정보 중 무엇을 만들지 선택하는데, 진실한 정보가 비용은 더 들지만 소비자와 사회가 더 높게 평가한다. 소비자는 받은 정보를 걸러낼 수 있거나 없거나 둘 중 하나로 두고, AI 중개자는 원래 생산자에게 갔을 방문의 일부를 가져간다.

이 구조에서 결과를 가르는 변수는 네 가지다. 효율성은 학습과 유통을 빠르게 하고 생산 비용을 낮추는 긍정적 힘이지만, 중개 비율이 높아질수록 생산 유인은 약해진다. 여기에 진실한 정보 대비 거짓 정보의 상대 비용이 낮아지는 흐름, 즉 설득력 있는 거짓을 만들기가 더 쉬워지는 변화가 붕괴 균형 쪽으로 저울을 기울인다. 마지막으로 소비자가 거짓을 가려낼 수 있는지, 즉 선별 기술의 수준이 결과를 좌우한다.

그렇다면 붕괴는 정해진 결말인가. 두 사람의 답은 '아니다'였다. 첫 번째 처방은 '절도를 멈추게 하는 것'으로, AI 기업이 정보 생산자의 지식재산을 대가 없이 가져가지 못하게 해 생산자의 수입과 유인을 되살리는 것이다. 스티글리츠는 미국의 공정 이용(fair use) 조항이 원래 학자의 선행 연구 인용을 위한 것이었는데 AI 기업들이 이를 근거로 삼고 있다며 동의하지 않는다고 말했다. 두 번째는 플랫폼과 AI 기업의 투명성과 책임을 강화하는 것으로, 1990년대 중반 신생 산업 육성을 명분으로 주어진 면책은 이제 명분을 잃었다는 지적이다.

주요 인사이트

• 저자들은 이미 징후가 나타나고 있다고 본다. 기존 언론이 어려움을 겪고 현장 탐사 보도를 하는 기자 수가 급감했으며, 잘못된 정보가 넘쳐나는 상황이 모형의 예측과 맞물린다는 것이다.
• 기술이 강력해질수록 위험도 함께 커진다는 점이 대담의 핵심이다. 지금의 힘들이 극한으로 밀려가면 붕괴 균형에 이르지 않을 이유가 없다는 것이 공저자의 진단이다.
• 규제가 혁신을 막는다는 통념에 대해 두 사람은 반대 방향의 주장을 폈다. 적절한 가드레일은 바람직한 행동의 유인을 키우고 혁신의 방향을 사회적으로 더 생산적인 쪽으로 이끌 수 있다는 것이다.
• AI 기업들이 실존적 위험이나 안전 규제에는 대체로 동의하면서도, 지금 눈앞의 정보 생태계 문제와 저작권 체계 변경에는 훨씬 소극적이라는 점을 두 사람은 지적했다.
• 경쟁이 늘 사회에 이롭지는 않다는 역설도 제시됐다. 중개자가 하나뿐이라면 생산자가 계속 살아남아 장기 수익을 내도록 관리할 유인이 있지만, 경쟁이 치열하면 미래 수익을 고려하지 못한 채 지금 가능한 만큼 최대한 가져가려 한다는 논리다.

자주 묻는 질문

관련 AI 소식