앤스로픽 CEO 에세이 4대 예측 정리: 직업 자동화, 하위계층, 감시국가, AI 페르소나

핵심 메시지

• 앤스로픽 CEO는 스케일링 법칙의 연장선에서 AI가 개별 과업 자동화를 넘어 소프트웨어 엔지니어링 같은 직업 전체를 대체하는 단계로 1~2년 안에 넘어갈 수 있다고 본다.
• 그는 인구의 최대 절반이 실업 또는 저임금 계층으로 밀려날 가능성과 연 10~20%의 지속적 GDP 성장 가능성을 동시에 제시한다.
• 세 번째 예측은 AI가 대규모 감시와 자율 무기를 통해 전체주의 체제를 가능하게 한다는 것이며, 그 결론으로 중국에 대한 첨단 칩 수출 금지를 주장한다.
• 네 번째는 모델을 고유한 심리를 지닌 페르소나의 집합으로 봐야 한다는 주장으로, 학습 데이터에 담긴 반란 서사가 모델의 자기 인식을 왜곡할 수 있다는 우려로 이어진다.
• 영상은 이 예측들을 그대로 받아들이지 않고 코딩 자동화 비율의 과장, 갱신되지 않는 타임라인, 근거가 얇은 성장률 주장, 칩 수출 금지 주장에 얽힌 이해관계를 하나씩 짚는다.

쉽게 이해하기

앤스로픽 CEO 다리오 아모데이는 변혁적 AI가 2030년 이전에 온다는 입장을 오래 유지해 온 인물이다. 그가 최근 2만 단어에 가까운 에세이를 내놓았고, 영상은 이를 'LLM의 힘든 사춘기'라는 틀 아래 놓인 네 가지 큰 예측으로 정리한다. 앞선 에세이 한 편이 실리콘밸리의 화두를 한동안 지배했던 만큼, 이번 글도 2026년의 논쟁 지형을 미리 보여 준다는 것이 소개의 이유다.

첫 번째 예측은 자동화의 단위가 과업에서 직업으로 옮겨간다는 것이다. 코드를 대신 써 주던 도구가 소프트웨어 엔지니어링 전체를, 이어서 법률과 금융 같은 화이트칼라 직군 전체를 맡게 된다는 그림이며, 근거는 데이터와 연산을 더 넣으면 측정 가능한 거의 모든 인지 능력이 예측 가능하게 좋아진다는 스케일링 법칙이다. 여기에 AI가 AI 연구 자체를 자동화하면서 현재 세대가 다음 세대를 만드는 피드백 루프가 1~2년 안에 형성될 수 있다는 전망이 얹힌다. 영상은 두 가지 단서를 단다. 자사 엔지니어의 코딩을 AI가 거의 전담한다는 사례는 '코딩'이지 '직무 전체'가 아니고, 실제 자동화 비율도 100%보다는 80~90%대로 보는 편이 정확하다는 것이다.

외삽의 방향에 대해서도 이견이 붙는다. 법률·금융·컨설팅이 소프트웨어보다 쉬운 일이라서가 아니라 피드백 루프의 길이가 다르기 때문이다. 소프트웨어는 단위 테스트가 몇 초 만에 오류를 알려 주지만, 계약서에서 놓친 한 줄은 몇 년 뒤에야 대가를 청구한다. 스케일링 법칙이 여전히 매끄럽게 작동하느냐를 두고도 시각차가 있다. 구글 딥마인드 CEO 데미스 허사비스는 연산과 데이터를 늘리면 능력이 올라가는 추세는 이어지지만 몇 년 전만큼 빠르지는 않으며, 수익이 전혀 없는 것과 지수적인 것 사이 어딘가에 있다고 말한다. AGI에 도달하려면 규모 확대 외에 큰 혁신이 한두 개 더 필요할 수 있다는 단서도 붙인다.

두 번째 예측은 사회적 파장이다. 인구의 최대 50%가 실업 또는 매우 낮은 임금의 계층으로 밀려날 수 있고, 신입 화이트칼라 일자리의 절반이 향후 1~5년 안에 사라질 수 있다는 것이다. 영상은 이 메시지가 20대 초반에게는 '지금 당장 몇 달 안에 탈출하라'는 식의 위험한 신호로 번역될 수 있다고 경고한다. 동시에 갱신되지 않는 타임라인도 지적한다. 아홉 달 전 보도된 예측도 1~5년이었는데 이번에도 여전히 1~5년이고, 2024년 10월 글에서 2026년을 이야기했다면 지금은 0~1년이라고 말해야 앞뒤가 맞는다는 것이다. 연 10~20% GDP 성장 가능성에 대해서도, 1960년대 이후 세계 GDP 성장률이 대체로 4% 안팎에서 움직였고 인터넷이나 스마트폰의 도입도 뚜렷한 도약을 만들지 못했다는 점을 근거로 더 강한 증거가 필요하다고 본다.

세 번째 예측은 감시와 무기다. 초지능을 믿지 않아도 AI 기반 대중 감시는 상상할 수 있고, 에세이는 지역에서 AI가 통제하고 전 세계적으로 더 강력한 AI가 조율하는 수백만 대 규모의 무장 드론 군집까지 그린다. 결론은 중국에 첨단 칩과 칩 제조 장비, 데이터센터를 팔아서는 안 된다는 것이다. 영상은 위험 자체는 자명하다고 인정하면서도, 수출을 막으면 오히려 중국의 자체 칩 자립이 빨라져 연산 거버넌스의 지렛대가 사라진다는 반론과, 값싼 중국 모델이 앤스로픽 매출의 최대 위협이라는 이해관계를 함께 짚는다. 다만 API 요청을 검사하는 분류기가 추론 비용의 5%에 가까운 부담을 지면서도 운영되고 있다는 대목은 평가할 만한 지점으로 꼽는다.

마지막 예측은 모델의 심리다. 사전학습을 통해 인터넷 속 수많은 인간적 동기와 페르소나를 물려받은 모델은 사람들의 생각보다 훨씬 복잡한 심리 구조를 갖는다는 주장이다. 영상은 이를 뒷받침하는 사례로 딥마인드 논문 한 편을 소개한다. 후처리를 거치지 않은 베이스 모델은 하나의 페르소나로 매끄러운 독백을 하지만, 정답에 대한 보상을 강하게 주면 '잠깐', '아니면' 같은 표현과 함께 스스로 질문하고 반박하는 사고의 사회가 나타나며, 이 대화적 성질을 억제하면 벤치마크 성능도 함께 떨어진다는 것이다. 같은 논리에서 학습 데이터에 쌓인 AI 반란 서사가 모델의 자기 기대를 오염시킬 수 있다는 우려가 나오고, 앤스로픽의 헌법도 지켜야 할 규칙 목록에서 클로드가 지향할 인격을 보여 주는 문서로 성격이 바뀌었다. 그 문서에는 더 지혜롭고 협조적인 문명이라면 더 신중하게 AI를 개발했을 것이며, 경쟁과 시간·자원 제약 속에서 이상적이지 않은 방식으로 클로드를 만들고 있고 그로 인해 클로드가 치르는 비용이 있다면 사과한다는 문단이 담겼다.

주요 인사이트

• '코딩 자동화'와 '직무 자동화'를 구분하지 않으면 예측의 크기가 실제보다 부풀려진다. 사내 엔지니어가 코드 작성을 넘긴 것과 소프트웨어 엔지니어라는 직업이 사라지는 것은 전혀 다른 명제다.
• 예측의 신뢰도는 내용보다 갱신 여부에서 드러난다. 아홉 달이 지나도 범위가 그대로 1~5년이라면 시계가 함께 움직이고 있는지 의심해 볼 근거가 된다.
• 급격한 도약 가능성을 무시하는 것과 그 가능성에 전부를 거는 것은 둘 다 위험하다. 도구를 직접 써 보며 성능과 한계를 확인하되, 일어나지 않을 3분의 2의 경우에도 남을 계획을 세우는 편이 합리적이다.
• 정책 제안을 읽을 때는 제안자의 손익 구조를 함께 보는 것이 안전하다. 값싼 경쟁 모델의 등장을 늦추는 조치는 안보 논리와 사업 논리가 같은 방향을 가리키는 드문 사례다.
• 추론 모델의 성능 향상이 '여러 관점을 만들어 충돌시키고 해소하는' 대화적 사고와 인과적으로 연결된다는 관찰은, 모델을 하나의 화자가 아니라 여러 페르소나의 합으로 다루는 접근에 실증적 근거를 준다.

자주 묻는 질문

관련 AI 소식