닉 보스트롬의 AGI 거버넌스 제안: 국유화 대신 개방형 글로벌 투자 모델이 나은 이유

핵심 메시지

• 보스트롬이 제안한 개방형 글로벌 투자(OGI) 모델은 정부가 정한 규제 틀 안에서 하나 이상의 상장기업이 AGI를 개발하도록 하는 구상이다.
• 이 제안은 AGI 개발을 국유화하는 '맨해튼 프로젝트' 방식, CERN형 국제 공동연구, 인텔샛형 국제 컨소시엄 같은 대안들과 대비된다.
• 새로 설계한 제도보다 사유재산을 둘러싼 오래된 법과 규범이 거대한 정치적 압력을 더 잘 견딜 것이라는 견고성이 첫 번째 근거다.
• 형평성 면에서 불완전하지만, 미국이 주도하는 국유화 프로젝트와 비교하면 전 세계 주식 소유 분포가 오히려 조금 덜 불평등하다는 계산을 제시한다.
• 지정학적 승자독식 인식이 무모한 경쟁과 사보타주, 전쟁 위험을 키우는 만큼, 다른 나라도 지분으로 참여해 이익을 나눌 통로를 열어 갈등을 줄이자는 것이 핵심 동기다.

쉽게 이해하기

논문의 출발점은 AI가 짧은 시간 안에 빠르게 발전해 실존적 위험과 거대한 경제적·의료적 편익을 동시에 가져올 기술이 될 수 있다는 전제다. 보스트롬은 그 전환을 누가 어떤 틀에서 관리할 것인지를 묻고, 정부가 설정한 규제 안에서 상장기업이 AGI를 개발하는 구조를 하나의 답으로 제시한다. 이를 개방형 글로벌 투자, 줄여서 OGI 모델이라 부른다.

그가 이 모델을 내세우는 첫 번째 이유는 견고성이다. AGI와 초지능이 지정학적 힘과 경제력을 좌우하는 요소로 인식되는 순간, 어떤 거버넌스 장치든 엄청난 압력을 받게 된다. 이때 이 목적을 위해 새로 만든 검증되지 않은 제도에 기대는 것보다, 사유재산을 둘러싸고 오랜 기간 축적된 법과 규범에 기대는 편이 흔들림에 더 잘 버틸 수 있다는 것이다.

두 번째는 인센티브 정합성이다. 전 세계가 평화롭게 뜻을 모아 유엔 같은 틀 아래 모든 안전장치를 갖춘 공동 프로젝트를 추진하는 것이 이상적이겠지만, 현재의 정치 현실에서 실현 가능성이 낮다고 그는 본다. 반면 OGI 모델은 이미 벌어지고 있는 상황과 크게 다르지 않고, 힘 있는 행위자들이 자기 이익이 반영된다고 느끼기 쉬운 구조다.

형평성 문제에 대해서는 스스로 약점을 인정하면서도 비교 대상을 현실적 대안으로 옮긴다. 전 세계 부가 매우 불균등하게 분포하므로 AGI 기업 주식을 살 수 있는 능력도 불균등하다. 그러나 미국이 주도하는 국유화 프로젝트가 민주적 통제 아래 유지되고 모든 미국 시민이 동등한 몫을 갖는다는 관대한 가정을 세워 지니계수를 계산해 봐도, 전 세계 주식 소유 분포 쪽이 오히려 조금 덜 불평등하게 나온다는 것이 그의 주장이다.

가장 큰 동기로 그가 꼽는 것은 갈등 완화다. 어느 한 나라가 먼저 도달하면 모든 것을 가져간다는 인식이 퍼지면, 뒤처졌다고 느끼는 쪽은 안전을 뒤로 미룬 채 속도 경쟁에 뛰어들거나 사보타주와 전쟁 같은 극단적 수단에 기댈 수 있다. 다른 나라의 엘리트가 지분을 사서 성공의 과실을 함께 나눌 수 있다면 그런 압력이 다소나마 줄어든다는 것이다.

보스트롬은 지금 세계가 이미 이 모델의 불완전한 형태를 실현하고 있다고 본다. 더 이상적인 형태로는 미국 정부가 성공한 AGI 기업을 몰수하거나 횡재세를 물리지 않겠다고 서약하는 것, 외국 정부와 해외 투자자의 참여를 장려하는 것, 비상장 AI 기업이 상장해 더 많은 사람이 투자할 수 있게 하는 것 등을 든다. 다만 그는 이 제안이 유일한 답이라고 주장하지 않으며, 여러 거버넌스 모델이 함께 개발되고 비교돼야 한다는 점을 분명히 한다.

주요 인사이트

• 이 제안의 무게중심은 '가장 좋은 제도'가 아니라 '압력을 견디는 제도'에 있다. 이상적 설계보다 이미 작동 중인 법·규범의 관성을 활용하자는 보수적 접근이다.
• 형평성 논의에서 이상과 현실적 대안을 구분하는 대목이 핵심이다. 완벽한 분배와 비교하면 투자 모델은 불평등하지만, 한 나라가 독점하는 모델과 비교하면 그렇지 않을 수 있다.
• 지분 참여를 갈등 완화 장치로 보는 시각은 안전 문제를 기술이 아니라 이해관계 설계의 문제로 다룬다. 이익을 공유하는 쪽이 질서를 지킬 유인도 갖게 된다는 논리다.
• 보스트롬은 현재 상태를 OGI와 맨해튼 프로젝트를 양 끝으로 하는 스펙트럼 위에 놓고, 우리가 이미 OGI 쪽에 꽤 가까이 있다고 본다. 따라서 이 논문의 실질적 함의는 국유화처럼 반대 방향으로 가는 조치에 대한 반론에 가깝다.
• 규제 틀과 안전 기준을 정하는 호스트 정부의 역할이 커지면 이 구상은 결국 공공·민간 파트너십에 가까워진다. 순수한 민간 모델이 아니라는 점을 그 자신이 짚는다.

자주 묻는 질문

관련 AI 소식