개방형 vs 폐쇄형 AI 논쟁 정리: 탈중앙 학습과 데이터 주권, 감사 가능한 개발까지

핵심 메시지

• AI가 연구 주제를 넘어 경제 인프라가 된 지금, 그 인프라를 서너 개 기업이 통제하는 구조가 안전한지 되묻는 목소리가 커지고 있다.
• 여기서 말하는 탈중앙화는 아무도 통제하지 않는 상태가 아니라, 개방되고 감사 가능하며 참여자에게 통제권이 분산된 시스템을 뜻한다.
• 탈중앙 인프라에서 720억 파라미터 모델의 전체 학습을 완주한 사례가 나왔지만, 아직 중앙집중식 개발과 정면으로 경쟁할 수준은 아니라는 것이 발표자들의 솔직한 평가다.
• 회사 간 분산보다 국가 간 분산, 즉 인도·중국 등이 각자의 모델을 갖는 다극 구도가 더 중요한 축이라는 시각도 제시됐다.
• AI가 만들어낼 부의 집중과 기본소득 논의가 서로 앞뒤가 맞지 않는다는 지적도 나왔다.

쉽게 이해하기

지난 몇 년 사이 AI는 연구실의 주제에서 벗어나 사회가 의존하는 경제 인프라로 자리를 옮겼다. 이 토론의 출발점은 단순하지만 무거운 질문이다. 그 인프라를 지금처럼 소수 조직이 개발하고 통제하는 것이 과연 옳은가. 사회자는 대안이 존재하는지, 그 대안을 택할 때 치러야 할 대가가 무엇인지를 참가자들에게 물었다.

한 발표자는 현재 중앙집중형 AI를 사실상 주도하는 기업이 서너 곳에 불과하다는 점을 문제 삼았다. 오늘보다 훨씬 강력한 무언가가 만들어졌을 때, 그 처분을 결정하는 사람이 이사회에 앉은 여섯 명뿐이라면 안전하다고 보기 어렵다는 것이다. 그가 말하는 탈중앙화는 통제의 부재가 아니라 개방성과 감사 가능성이다. 어떤 데이터가 쓰였고 어떤 유인 구조가 그 데이터를 평가했는지, 결론에 이른 경로를 외부가 들여다볼 수 있어야 한다는 뜻이다.

다른 발표자는 조직 간 분산보다 지리적 분산에 무게를 뒀다. 세계 인구의 대부분은 미국 밖에 살고 있으니, 미국에 AI 기업이 몇 개 더 생기는 것보다 인도와 중국이 각자의 AI를 개발하는 편이 낫다는 논리다. 그는 인도의 국가 신원 인프라를 만들었던 인력들이 지금 자국의 주권형 모델 개발에 뛰어들었다는 사례를 들며, 한 사람이 초지능을 독점하는 세계보다 여러 축이 나눠 갖는 세계를 선호한다고 말했다.

기술적 현실 평가는 냉정했다. 오늘의 탈중앙 학습이 중앙집중형과 경쟁하기에는 아직 기술이 초기 단계이고, 중앙에서 조율하는 편이 훨씬 쉽다는 것이다. 다만 탈중앙 인프라 위에서 720억 파라미터 모델의 전체 학습이 완주된 사례가 나온 만큼, 시장이 스스로를 조율해 쓸 만한 결과를 만들어낼 수 있다는 신호는 확인됐다고 봤다. 이 구조에서 참여자들은 같은 과제를 두고 서로 경쟁하며 상대 평가로 보상을 받고, 그 자체가 계속 갱신되는 벤치마크처럼 작동한다.

데이터를 둘러싼 대목에서는 어조가 한층 강해졌다. 공개된 인터넷으로 학습한 모델의 재료는 결국 우리 모두의 데이터인데, 기업이 그것을 가져다 파는 구조가 정당하냐는 것이다. 의료 데이터처럼 민감한 정보도 개인 식별 정보를 제거했다면 공개되지 못할 이유가 없다는 의견, 스위스처럼 개인이 자기 의료 데이터를 학습에 제공하고 보상을 받는 조직이 등장했다는 사례가 함께 언급됐다. 마지막으로 참가자들은 AI 복제본끼리 대화하게 만드는 실험보다, 이미 검증된 것들을 실제로 구현하는 일이 지금 더 가치 있다는 데 뜻을 모았다.

주요 인사이트

• 탈중앙화를 '통제 없음'이 아니라 '감사 가능성'으로 재정의하면 논쟁의 초점이 이념에서 검증 방식으로 옮겨간다. 기업이 사고 후 내놓는 해명이 사실상 믿어달라는 요청에 그쳤다는 지적이 이 재정의의 근거로 제시됐다.
• 탈중앙 학습의 진짜 병목은 알고리즘이 아니라 물리적 자원이다. 데이터센터를 세우려면 희토류와 하드웨어가 필요하고, 그래서 AI가 스스로 몸집을 불려 세계를 장악한다는 시나리오는 현실성이 낮다는 반론이 나왔다.
• 유휴 연산 자원을 모으는 분산 컴퓨팅은 예전에도 있었지만 지속되지 못했다. 참여 동기가 흥미에만 의존했기 때문이며, 검증 가능한 보상 구조를 붙이면 다른 결과가 나올 수 있다는 것이 발표자의 진단이다.
• AI 산출물이 넘쳐날수록 사람이 직접 만든 것의 희소가치가 올라간다는 수급 관점도 제시됐다. 결국 사람들이 원하는 것과 원하지 않는 것이 갈릴 것이고, 시장은 그 지점을 파고들 것이라는 전망이다.
• 소수의 거대 기업 프로젝트와 혼자 버티는 개인 개발자 사이에서 서너 명 규모의 오픈소스 팀이 사라졌다는 문제 제기도 있었다. 생활비 부담이 이 중간층을 지워버렸다는 것이다.

자주 묻는 질문

관련 AI 소식