라지 레디 AI 전망: AGI는 사실상 도달했지만 사회 확산에는 50년이 걸린다는 카네기멜런 강연

핵심 메시지

• AI가 인류를 멸종시킨다는 실존적 위협론은 확률이 극히 낮은 시나리오이며, 그보다 현실적인 문제들이 따로 있다.
• '어떤 주제든 세계 최고 전문가의 90% 수준으로 답한다'를 기준으로 삼으면 오늘의 모델은 이미 AGI에 해당한다.
• 기술은 준비돼도 규제·직능단체·사회 관습이 확산을 막기 때문에 변화는 5~10년이 아니라 20~50년에 걸쳐 일어난다.
• 일대일 개인교습이 성적을 크게 끌어올린다는 오래된 연구 결과가 AI 튜터 덕분에 처음으로 실현 가능해졌다.
• 코딩이 자동화되어도 무엇을 요구하고 어떻게 검증할지 아는 사람의 역할은 오히려 커진다.

쉽게 이해하기

카네기멜런대의 라지 레디 교수는 1963년 스탠퍼드 대학원생으로 AI 연구를 시작한 1세대 연구자다. 그가 진입한 그해는 미국 정부가 처음으로 AI 연구에 본격적인 자금을 대기 시작한 해이기도 하다. 당시 DARPA를 이끌던 J.C.R. 릭라이더가 MIT와 카네기멜런, 스탠퍼드 세 곳을 동시에 지원하면서 분야 전체의 판이 만들어졌다.

레디 교수는 오늘의 AI 담론이 두 극단으로 갈라져 있다고 정리한다. 한쪽에는 딥러닝으로 노벨상을 받은 제프리 힌턴처럼 AI가 인류의 실존적 위협기에 들어섰다고 보는 파멸론자가 있고, 다른 쪽에는 생산성이 열 배로 뛰어 모든 것이 사실상 무료가 되는 풍요 사회를 예고하는 쪽이 있다. 그는 존경하는 사람들이 양쪽 모두에 있다고 전제하면서도, 멸종 시나리오는 소행성 충돌이나 길을 걷다 트럭에 치이는 것과 비슷한 아주 낮은 확률의 사건으로 본다.

그가 AGI 도달 여부를 판정하는 기준은 다분히 실용적이다. '어떤 주제에 대해서든 세계 최고 전문가의 90% 정확도로 답할 수 있는가'를 측정 가능한 정의로 제시하고, 미국 대학과목선이수제(AP) 시험 38종을 모델에 치르게 한 결과를 근거로 든다. 수학·물리·화학·생물 같은 이공계 과목에서는 매우 뛰어났고 영어와 역사에서는 B 수준, 인류학이나 고고학에서는 C에 그쳤지만, 38개 시험 전부에서 합격점을 받았다는 것이다.

그렇다면 왜 세상은 아직 그대로일까. 레디 교수의 답은 기술이 아니라 확산이다. 의료를 예로 들면, AI와 이십만 원대 인간형 로봇이 24시간 교대로 일해 비용을 10분의 1로 낮출 수 있다고 해도 사회가 그것을 허용하지 않는다는 것이다. 그는 독일에서 노동조합의 힘으로 로봇조차 일요일에 가동할 수 없게 규제한 사례를 들며, 기술적 가능성과 제도적 수용 사이의 간극을 강조했다.

교육에 대해서는 조금 더 낙관적이다. 벤저민 블룸의 이른바 '2시그마' 연구는 일대일로 즉각 피드백을 주면 학생 성취가 크게 올라간다는 것을 보였지만, 인구 절반을 교사로 만들 수 없어 실현 불가능한 이상으로 남아 있었다. 그는 AI 튜터가 이 비용 장벽을 처음으로 무너뜨린다고 본다. 다만 그러려면 학습자가 올바른 질문을 던질 줄 알고, 자신이 무엇을 모르는지 인지하는 '배우는 법을 배우는' 훈련이 선행돼야 한다고 못 박았다.

주요 인사이트

• 레디 교수는 현재의 대규모 투자 논리를 월 20달러 구독료로 설명한다. 10억 명이 구독하면 연 2,400억 달러가 되고, 기반 모델은 이미 만들어져 있으니 마진이 극단적으로 크다는 계산이 자본을 끌어들였다는 것이다. 그는 이 전제가 유지된다는 가정 자체를 의심스러워한다.
• 1963년의 PDP-10이 초당 100만 회 수준이었다면 오늘의 최신 가속기는 10의 16승 수준이다. 60년 만에 100억 배가 된 셈인데, 그는 이만한 연산량이 곧바로 새로운 능력으로 이어질 줄은 당시엔 아무도 몰랐다고 회고한다.
• AI가 답을 준다고 해서 대학 학위가 무의미해지는 것은 아니다. 무엇을 물어야 할지 모르면 좋은 답도 얻을 수 없다는 것이 그가 짚는 이 주장의 결정적 허점이다.
• 허버트 사이먼이 1980년 중국과학원과 수행한 실험에서, 풀이 예제를 주고 스스로 풀게 한 학생들이 강의를 들은 학생들보다 3년 뒤에 50% 더 많이 기억했다. 레디 교수는 AI 튜터 시대의 수업이 이 형태에 가까워질 것으로 본다.
• 대규모 코드 생성이 가능해져도 사람에게는 요구사항을 정확히 전달하고 평가 함수를 설계하며 결과를 검증하는 역할이 남는다. 그는 산업 규모 소프트웨어에 필요한 신뢰성·의존가능성·보안 같은 속성을 챙기는 일이 오히려 더 중요해진다고 강조했다.

자주 묻는 질문

관련 AI 소식