AI 에이전트 시대의 생산성과 격차: AGI 5단계와 온디바이스 AI가 바꾸는 것

핵심 메시지

• AGI로 가는 5단계의 마지막이 '조직'이라는 점이 핵심이다. 하나의 개체가 아니라 여러 에이전트가 팀처럼 일하는 형태를 뜻한다.
• 역할을 나눈 에이전트 워크플로로 묶으면 작은 모델로도 훨씬 큰 모델에 가까운 성능을 낼 수 있다는 실험 결과가 소개된다.
• 개인용 에이전트가 쓸모 있으려면 소형화와 기기 안 실행이 필요하다. 데이터를 클라우드에 올리는 순간 통제권을 잃기 때문이다.
• AI는 능력 증폭기지만 증폭 배율이 사람마다 달라, 기존의 작은 격차를 몇 배로 벌려 새로운 계층을 만들 수 있다.
• 국가·기업 단위에서도 대규모 AI를 만들 수 있는 곳은 소수라, 상위권과 중위권의 차이가 순위로 표현되는 것보다 훨씬 크다는 우려가 제기된다.

쉽게 이해하기

대담의 출발점은 OpenAI가 제시한 AGI 5단계다. 챗봇에서 추론기, 에이전트, 혁신가로 이어지다 마지막이 '조직'이라는 점이 흥미롭다고 화자는 짚는다. 앞의 네 단계는 하나의 개체로 상상되는데 마지막만 조직이라는 것이다. 그가 드는 근거는 현대 AI의 대규모 병렬 처리다. 영화 '그녀'의 사만다가 수천 명과 동시에 대화할 수 있는 이유도 그것이 단일 개체가 아니라 수천 개 인스턴스로 나뉘어 돌아가기 때문이라는 설명이다.

그래서 나오는 개념이 에이전트 워크플로다. 문제를 해석하는 에이전트, 도구를 실행하는 에이전트, 계획을 세우는 에이전트, 그 계획이 타당한지 검토하는 에이전트가 팀처럼 논의하며 일한다. 앤드루 응이 공개한 실험에서는 GPT-3.5를 예닐곱 개 에이전트로 나눠 역할을 준 결과가 GPT-4에 직접 맡긴 것과 비슷한 수준에 이르렀다. 훨씬 적은 자원과 작은 파라미터로도 비슷하거나 더 나은 결과를 낼 수 있다는 뜻이다. 화자는 인류 지성의 정점도 결국 집단지성이었다는 점을 들어, 지능의 궁극 형태가 조직이라는 해석을 붙인다.

추론 모델 o1에 대한 해석도 이어진다. 사고의 연쇄를 단계별로 펼치고 각 단계의 설명을 평가해 점수를 주는 강화학습으로 추론 과정 자체를 학습시킨 모델이라는 것이다. 응답에 몇 분이 걸리고 모든 분야에서 뛰어나지도 않지만 수학이나 의학처럼 깊은 추론이 필요한 영역에서 강하다. 화자는 이름에서 GPT를 뗀 것을 두고, 이 모델이 만능 기초 모델이 아니라 미세 조정의 절충을 감수한 특화 분기임을 스스로 인정한 신호로 읽는다.

개인을 위한 에이전트의 조건으로는 소형화가 꼽힌다. 클라우드에 데이터를 올리는 순간 그 데이터는 사실상 공개되고, AI가 학습해버리면 어디에 어떤 형태로 남았는지 알 수 없어 지워달라는 요구조차 성립하지 않는다. 애플이 LoRA로 대형 모델을 기기 안에서 돌 만큼 줄이고, 앞단 에이전트가 요청을 해석해 전문 에이전트를 호출하는 구조를 택한 이유가 여기 있다는 설명이다. 무거운 작업은 사용자 동의를 받아 종단 간 암호화 상태로 서버에 보내고, 관리자조차 마스터 키를 갖지 않는다는 점도 소개된다.

마지막은 사회적 함의다. 화자는 AI를 능력 증폭기로 본다. 다만 스마트폰이 등장했을 때 일이 줄기는커녕 늘었듯, 증폭은 곧 더 많은 업무 배정으로 이어질 수 있다. 더 우려스러운 것은 증폭이 공평하지 않다는 점이다. 능력 5와 10의 차이는 감당할 수 있지만 100배 증폭기가 붙으면 그 차이는 500이 되고, 배율 자체도 사람마다 다르게 작동해 새로운 계층이 생길 수 있다. 국가 간 격차도 마찬가지다. 그래서 그는 전문가가 아니어도 모두가 AI에 대한 기본 이해를 갖춰야 하며, 그것이 자신이 책을 쓰는 이유라고 말한다.

주요 인사이트

• '에이전트'라는 말이 두 층위로 쓰인다. AGI로 가는 학습 구조로서의 에이전트와, 사용자를 대신해 심부름하는 개인 비서로서의 에이전트는 요구 조건이 다르다.
• 성능을 끌어올리는 길이 모델 크기만은 아니다. 역할 분담과 상호 검토라는 구조 설계만으로도 자원을 훨씬 적게 쓰고 비슷한 결과에 도달할 수 있다.
• 온디바이스 AI의 진짜 이유는 속도가 아니라 데이터 주권이다. 학습에 흡수된 개인정보는 삭제 요청이라는 개념 자체가 성립하지 않기 때문이다.
• 증폭기 비유의 무서운 지점은 배율이 사람마다 다르다는 데 있다. 격차가 더해지는 것이 아니라 곱해지면서 벌어진다.
• 기술 이해는 개인의 경쟁력을 넘어 사회적 방어력에 가깝다. 논의에 참여하려면 최소한의 이해가 전제돼야 한다는 것이 화자의 문제의식이다.

자주 묻는 질문

관련 AI 소식