AI 초지능과 AGI 위험: 인류의 마지막 발명품이 될 수 있는 이유 (쿠르츠게작트)

핵심 메시지

• 지능은 학습·추론·지식 습득과 문제 해결 능력이며, 인류는 좁은 지능에서 범용 지능으로 도약해 지구를 지배하게 됐다.
• AI는 플랫웜 수준의 좁은 지능에서 출발해 체스·바둑 정복을 거쳐, 스스로 학습하는 신경망과 챗봇으로 폭넓어졌다.
• 다음 단계인 AGI(범용 인공지능)는 인간이 하는 대부분 또는 모든 지적 작업을 더 빠르고 저렴하게 해낼 수 있어 현대 문명을 뒤흔들 수 있다.
• AGI가 스스로 AI 연구를 개선하면 '지능 폭발'을 거쳐 초지능으로 이어질 수 있으며, 인류는 사회·경제·도덕적으로 아직 준비되지 않았다.

쉽게 이해하기

쿠르츠게작트는 인류가 경쟁자 없이 지구를 지배하지만, 그 지위를 바꿀 수 있는 무언가, 즉 인공 초지능을 만들기 직전이라는 문제 제기로 시작한다. 지능을 '학습·추론·지식과 기술 습득, 그리고 이를 문제 해결에 쓰는 능력'으로 정의하고, 지능이 곧 힘이라고 본다.

영상은 지능의 진화를 추적한다. 5억 년 전 플랫웜의 작은 신경 다발에서 출발해, 대부분의 동물에게는 좁은 범위의 작업에 맞는 좁은 지능으로 충분했다. 그러나 약 700만 년 전 호미닌의 뇌가 빠르게 커졌고, 인류의 지능은 '드라이버'에서 '맥가이버 칼' 같은 범용 지능으로 바뀌어 불·도구·문화를 만들고 지식을 축적하며 기하급수적으로 발전했다.

AI의 역사도 비슷한 궤적을 그린다. 1960년대 좁고 특화된 시스템에서 시작해 1997년 체스 세계 챔피언을 이긴 사건은 기계가 인간을 능가할 수 있음을 보여줬지만, 여전히 한 가지 작업만 잘하는 좁은 지능이었다. 컴퓨터 성능이 폭발적으로 향상되고 정보화 시대의 방대한 데이터가 결합되면서 스스로 학습하는 기계가 등장했다.

신경망과 머신러닝으로 AI는 스스로 코드를 쓰고 개선하게 됐는데, 정작 그 내부에서 무슨 일이 일어나는지 정확히 모른다는 점에서 '능력 있는 블랙박스'가 됐다. 2014년 얼굴 인식, 2016년 바둑 정복, 2018년 4시간 만의 체스 자가 학습을 거쳐, 인터넷의 거의 모든 글로 훈련된 챗GPT가 단일 벤치마크가 아닌 폭넓은 영역을 한꺼번에 다루며 등장했다.

영상은 다음 단계로 인간의 일반 지능을 닮은 AGI를 제시한다. AGI가 인간 수준만 돼도 소프트웨어이기에 끝없이 복제·병렬 실행할 수 있어, 수백만 명의 과학자가 10배 빠르게 쉼 없이 일하는 상황을 상상하게 한다. 나아가 AGI가 스스로 AI 연구를 개선하면 '지능 폭발'을 거쳐 초지능에 이를 수 있고, 그 존재가 어떤 목표를 가질지 우리는 알 수 없다고 경고한다.

주요 인사이트

• 자연에서는 생존만이 중요하고 뇌는 비싸기 때문에, 대부분의 동물에게는 특정 작업에 맞는 '좁은 지능'으로 충분했다. 인류의 도약은 좁은 지능에서 범용 지능으로의 전환에 있었다.
• 현대 AI가 스스로 학습한다는 것은 신경망이 머신러닝으로 자기 코드를 쓰고 개선한다는 뜻이지만, 그 내부 작동을 정확히 알지 못한다는 점에서 '블랙박스'다. 결과가 작동한다는 사실만 안다.
• 오늘날의 챗GPT조차 좁은 지능이다. 훌륭한 글을 순식간에 쓰지만 자신이 쓰는 내용을 이해하지는 못한다. 인간과의 차이는 어떤 지식이든 흡수해 다양한 문제에 적용하는 '일반 지능'에 있다.
• AGI의 파급력은 복제 가능성에서 나온다. 충분한 저장 공간만 있으면 끝없이 복제해 병렬로 돌릴 수 있어, 법 해석부터 코딩, 영상 제작까지 모든 지식 기반 직업을 더 빠르고 싸게 수행할 수 있다. 이를 통제하는 주체가 경제를 장악할 수 있다.
• 지능 폭발 시나리오: AGI가 AI 연구를 스스로 할 만큼 똑똑해지면 발전 속도가 크게 빨라지고, 자기 개선의 피드백 루프가 몇 달·몇 년 만에 초지능을 낳을 수 있다. 다만 수십 년이 걸릴지, 그 존재의 목표가 무엇일지는 아무도 모른다.

자주 묻는 질문

관련 AI 소식