AI 위험성 - 카렌 하오 'AI 기업은 제국' 권력 집중 경고 해설

핵심 메시지

• 카렌 하오는 거대 AI 기업을 '제국(empires of AI)'에 비유하며, 자신의 것이 아닌 자원(데이터·창작물)을 끌어다 쓰고 막대한 노동을 착취하며 지식 생산을 독점한다고 주장한다.
• AI 연구자 상당수가 산업의 자금 지원을 받기 때문에, 기업이 기술의 한계와 위험을 보는 대중의 시야를 좌우한다는 '게이트키핑·게슬라이팅' 우려를 제기한다.
• 오픈AI에서 핵심 인물들이 잇따라 떠나 각자 회사를 세운 흐름을, 영상은 창업자들이 '자기만의 비전대로 AI를 통제하려는' 권력 다툼으로 해석한다.
• 다리오 아모데이 등이 말하는 '10~25% 파국 가능성' 같은 수사는 위험 예측이자 동시에 '우리만이 통제해야 한다'는 정당화에 쓰이는 신화 만들기라고 본다.

쉽게 이해하기

이 영상은 AI 연구자이자 저널리스트 카렌 하오의 인터뷰 클립을 발췌하며 진행자가 자신의 해석을 덧붙이는 형식이다. 핵심 주장은 거대 AI 기업이 옛 '제국'과 닮았다는 것이다. 하오는 이들이 개인의 데이터, 예술가·작가·창작자의 지식재산을 훈련 데이터로 끌어다 쓰고, 슈퍼컴퓨터 시설을 짓기 위한 자원을 차지하며, 전 세계 수십만 명의 노동을 계약 형태로 동원한다고 설명한다.

두 번째 축은 '지식의 독점'이다. 하오는 기업들이 '이 기술을 제대로 아는 건 우리뿐'이라는 인식을 대중과 정책 결정자에게 심고, AI의 한계와 능력을 연구하는 과학자 다수를 자금으로 포섭한다고 본다. 그는 기후과학자 대부분이 화석연료 기업의 후원을 받는다면 기후 위기를 정확히 알 수 있겠느냐고 비유하며, 불리한 연구가 검열·축소될 수 있다고 주장한다. 구글의 윤리적 AI 팀을 이끌던 팀닛 게브루가 대규모 언어모델의 위험을 다룬 논문 이후 해고된 사례를 든다.

영상은 비판자에 대한 압박 사례도 다룬다. 하오는 오픈AI가 비영리에서 영리로 전환하던 시기, 이를 견제하던 소규모 감시단체 운영자에게 소환장이 전달돼 일론 머스크와 관련된 모든 소통 자료를 요구받았다고 전한다. 진행자는 이를 '비판 네트워크를 파악하려는 위축 효과'로 해석한다.

또 하나의 주제는 '왜 인재들이 오픈AI를 떠나는가'다. 하오는 오픈AI 초창기 인물 상당수가 샘 올트먼과 충돌한 뒤 떠나 각자 회사를 세웠다고 짚는다. 일리야 수츠케버는 세이프 슈퍼인텔리전스를, 미라 무라티는 싱킹 머신스 랩을, 다리오 아모데이는 앤트로픽을, 머스크는 xAI를 세웠다. 그는 '거의 모든 거대 기술 부호가 자기 AI 회사를 갖는 건 우연이 아니며, 각자 자기 이미지대로 AI를 만들려 하기 때문'이라고 말한다.

마지막으로 영상은 '신화 만들기(mythmaking)'를 강조한다. 하오는 '잘못되면 인류에 파국, 잘되면 번영'이라는 양극단 서사가 동전의 양면처럼 쓰여, 결국 '그러니 우리가 통제해야 한다'는 비민주적 접근을 정당화한다고 본다. 그는 소설 '듄'의 메시아 신화에 빗대, 경영진이 신화를 의도적으로 만들면서도 스스로 그 신화에 빠져드는 인지부조화를 설명한다. 결론은 CEO 개개인의 도덕성과 무관하게, 수십억 명의 삶에 영향을 주는 결정을 소수가 내리고 정작 그 사람들은 발언권이 없는 '권력 구조' 자체가 문제라는 것이다. 진행자는 여기에 대량 실업과 사회 혼란에 대한 자신의 개인적 우려를 덧붙인다.

주요 인사이트

• AI 위험 논의의 초점을 '모델 성능'에서 '누가 통제권과 자원을 쥐는가'라는 권력 구조로 옮긴다는 점이 이 영상의 핵심 관점이다.
• 연구 자금의 출처가 곧 연구 의제를 좌우할 수 있다는 지적은, AI 안전성 논의의 독립성을 어떻게 확보할지 질문을 던진다.
• '파국 가능성' 경고가 진심 어린 예측이자 동시에 통제권을 정당화하는 수사로 동시에 기능할 수 있다는 분석은, AI 기업의 메시지를 비판적으로 읽게 한다.
• 영상에는 카렌 하오의 분석과 진행자의 개인적 추측(대량 실업·사회 붕괴 등)이 섞여 있어, 검증된 사실과 의견을 구분해 받아들일 필요가 있다.

자주 묻는 질문

관련 AI 소식