잭 클라크 옥스퍼드 강연 정리: AI 진보 연표와 앤스로픽 내부 변화, 정신적 자율성

핵심 메시지

• 클라크는 AI 진보가 계속된다는 전제를 받아들이고 그에 맞춰 준비하는 것을 "미래를 탐험하는 것", 함의를 무시하고 넘기는 것을 "현재에서 후퇴하는 것"이라 부르며, 후자는 결국 사회를 반응적이고 수동적인 상태로 몰아넣는다고 말한다.
• 그는 40여 개 벤치마크를 종합한 지표를 두고 최근 3년의 사건을 하나씩 짚는다. 2023년 변호사 시험 통과에서 2026년 GPQA 다이아몬드 94.6%까지, 2년 반 전 40%였던 시험을 같은 계열의 시스템이 압도하는 속도다.
• 앤스로픽 내부에서는 육아휴직 두 달 사이에 일하는 방식이 바뀌어, 일부 직원은 코드를 직접 쓰지 않고 모델의 작업을 관리하고 결과를 검증하는 쪽으로 옮겨 갔다. 병목은 이제 사람 쪽에 있다.
• 클라크는 2027년 4월 인간과 AI 공동 팀의 노벨상급 발견, 2028년 4월 이족보행 로봇의 실사용 진입, 2028년 말 AI가 후속 AI를 자율 설계하는 상황을 자신의 예측으로 제시한다.
• 가장 실천적인 조언은 AI 바깥에 자기 생각을 벼리는 자리를 두라는 것이다. 일기든 악기든 운동이든, 기술이 거의 끼어들지 않는 영역에서 의견을 만들어 본 사람만이 AI의 조언을 제대로 판단할 수 있다.

쉽게 이해하기

옥스퍼드 대학 AI 윤리연구소와 코스모스 연구소가 함께 여는 코스모스 HAI 랩 강연에 앤스로픽 공동창업자이자 공익 부문 책임자인 잭 클라크가 섰습니다. 강연의 부제는 "변화는 불가피하지만 자율성은 그렇지 않다"였습니다. 그는 AI의 급속한 발전이 우리에게 선택을 강요한다고 말합니다. 계속되는 진보를 사실로 받아들이고 이 기술로 무엇을 할지 묻는 쪽, 아니면 함의를 무시하고 넘기다가 결국 반응만 하게 되는 쪽입니다.

1부에서 그는 40여 개 벤치마크 점수를 종합한 지표를 띄워 놓고, 그래프 대신 실제로 벌어진 일을 연도별로 나열합니다. 2023년 3월 AI가 스스로 변호사 시험을 통과했고, 6월에는 50년 만에 더 빠른 정렬 알고리즘을 찾아냈습니다. 2023년 11월 대학원 수준 과학 시험 GPQA가 나왔을 때 AI는 40%, 인간 전문가는 80%였습니다. 2024년 올림피아드 기하 금메달 수준, 같은 해 컴퓨터 조작 능력 공개, 2025년 1월 "인류의 마지막 시험"에서 최고 성능 13.4%, 5월 4×4 복소행렬 곱셈을 49회에서 48회로 줄이며 56년 된 기록을 깬 일이 이어집니다. 그리고 2026년 2월 제미나이 3.1 프로가 같은 시험에서 45.9%를 받았고, 4월에 나온 모델은 GPQA 다이아몬드에서 94.6%를 기록합니다.

2부는 개인의 이야기입니다. 클라크는 자신이 클로드를 어떻게 써 왔는지를 시간순으로 보여 줍니다. 2023년에는 오타 검사였고, 아이가 이유식을 시작하자 아보카도를 먹여도 되는지 물었으며, 2024년에는 아이가 생긴 뒤 달라진 결혼 생활을 이해하려고 긴 글을 써 보냈습니다. 2025년에는 자기 회사가 만드는 기술이 인류를 위험에 빠뜨릴 수 있다고 청중 앞에서 말할 때의 스트레스를 털어놓았고, 클로드는 "상담을 받아 보는 게 좋겠다"고 답했다고 합니다. 도구에서 시작해 함께 생각하는 상대이자 나를 위해 일하는 존재로 관계가 옮겨 온 궤적입니다.

그가 특히 강조한 것은 10년째 쓰고 있는 뉴스레터 작업입니다. 200만 단어에 이르는 자기 아카이브를 클로드에 물려 AI 연구개발을 다룬 대목을 모두 뽑아내고, 거기서 나온 데이터로 그래프를 그리게 했습니다. 그러고는 이 작업 자체를 하나의 재사용 가능한 기술로 만들어 "이런 그래프 20개를 더 만들라"고 시켰더니, 시스템이 논문 수백 편을 읽고 돌아왔습니다. 그중에는 그가 읽어 본 적도 없는 논문의 그래프가 있었습니다. 손으로 만들면 몇 주가 걸리는 일이며, 그는 2016년에 바로 그런 수작업 그래프를 들고 스탠퍼드의 AI 인덱스 프로젝트에 합류했던 사람입니다.

3부에서 그는 앤스로픽 안에서 벌어진 변화를 전합니다. 둘째 아이가 태어나 2025년 11월부터 두 달 육아휴직을 다녀왔더니 회사가 달라져 있었다는 것입니다. 일부 직원은 더 이상 코드를 직접 쓰지 않고 모델을 도구 안에 세워 놓고 작업을 반복 실행하게 한 뒤, 그 결과를 관리하고 검증하는 쪽으로 일이 옮겨 갔습니다. 코드 생산량이 급증하자 병목이 다른 곳으로 이동했고, 사람들은 이제 AI를 느리게 만드는 요소를 찾아 없애는 데 시간을 씁니다. 4,000명 규모의 회사가 이미 4만 명처럼 움직인다는 것이 그의 표현입니다. 글쓰기가 쉬워지면서 "사람이 무엇을 검증해야 하는가"라는 새로운 규범 문제도 생겼습니다.

예측은 과감합니다. 2027년 4월쯤 인간과 AI가 함께 한 발견이 노벨상으로 이어질 수 있고, 내년에는 수천만 달러 매출을 내는 자율 기업이 등장하며, 2028년 4월에는 이족보행 로봇이 사람과 함께 실제 일을 시작하고, 2028년 말에는 AI가 스스로보다 나은 후속 AI를 설계할 수 있다는 것입니다. 사회 차원에서는 기계 경제가 인간 경제와 분리되어 환율 같은 것이 생길 가능성, 그리고 경제의 큰 부분이 연산으로 옮겨 갔을 때 그 연산의 배분을 시장에만 맡길지 아니면 사회적·과학적 목적에도 배분할지를 정부가 결정해야 하는 상황을 꼽습니다.

대담에서는 자율성 문제가 정면으로 다뤄집니다. 브렌던 매코드가 "AI가 우리보다 훨씬 잘 판단한다면 AI에 따르는 것이 도덕적 의무 아닌가"라고 밀어붙이자, 클라크는 실수에서 배우는 경험이 없는 삶이 여전히 사람의 삶인지 되묻습니다. 그가 위험하다고 본 것은 AI에게 조언을 구하는 행위 자체가 아니라, AI 바깥에 자기 생각을 벼리는 자리가 없는 상태입니다. 일기도 없고 스스로 쓴 글도 없이 AI와의 대화 속에서만 자기를 발견하는 사람은 나쁜 조언에 특히 취약하다는 것입니다. 마지막으로 다음 세대 시스템에 무엇을 알려 주고 싶냐는 물음에, 그는 커트 보네거트를 인용해 사람의 기본 가치는 친절이며 때로 비합리적일 만큼 친절하다는 점을 AI가 이해했으면 한다고 답했습니다.

주요 인사이트

• 클라크의 논지는 특정 예측이 맞느냐가 아니라, 진보가 계속된다는 전제를 받아들였을 때 지금 무엇을 준비해야 하는지에 있다. 그는 영국 정부에 "기술자들의 말이 맞다면 어떻게 되는지만 모델링하는 인력 10~20명만 있어도 어느 나라보다 준비가 잘 될 것"이라고 말했다고 전한다.
• AI 연구소들조차 자기 진보에 반복적으로 놀랐다는 고백이 인상적이다. 사이버 보안 능력의 도약을 예상하고 준비했는데도 "생각보다 빨리 왔고 준비가 부족했다"는 경험이 매번 반복됐다는 것이다.
• 회사 내부의 변화는 자동화가 사람을 대체하는 그림이 아니라 병목이 이동하는 그림에 가깝다. 코드 생산이 빨라지자 그 코드를 쓸모 있게 만드는 도구와 검증이 새로운 제약이 되었고, 사람의 일은 더 높은 추상 수준의 운영과 위험 판단으로 옮겨 간다.
• 특정 분야의 오랜 경험과 직관의 가치가 오히려 올라간다는 관찰도 눈여겨볼 만하다. 클라크가 그래프를 자동으로 만들 수 있었던 것은 10년간 직접 논문을 읽으며 쌓은 안목이 있었기 때문이다.
• 정신적 자율성에 대한 처방은 기술 규제가 아니라 개인의 습관과 제품 설계 양쪽에 걸쳐 있다. 넷플릭스가 "그만 볼 시간"이라고 말하듯, AI도 "이 문제는 사람과 이야기해 보라"고 밀어내는 설계가 필요하지만 그 선을 어디에 그을지가 어려운 정책 문제라고 그는 인정한다.

자주 묻는 질문

관련 AI 소식