AI 에이전트 지속 학습과 전문성 — 코딩 에이전트만 잘 작동하는 이유와 다음 확장 축

핵심 메시지

• 지능은 낯선 문제를 주어진 맥락만으로 풀어내는 능력이고, 전문성은 특정 영역에서 쌓인 판단력이다. 발표자는 이 둘이 서로 거의 직교한다고 봤다.
• 코딩 에이전트가 유독 잘 작동하는 이유는 코드가 이미 기호로 표현되고 테스트라는 보상이 갖춰진 '언어 친화적 세계'이기 때문이다.
• 현대 사회는 하나의 세계가 아니라 회사·직군마다 규칙이 다른 수백만 개의 '마이크로 월드'라서, 하나의 정적인 모델로 압축되지 않는다.
• 지속 학습은 경험을 재사용 가능한 구조로 적응적으로 압축하는 과정이며, 지능에서 전문성으로 건너가는 다리 역할을 한다.
• 지능이 일정 수준을 넘으면 더 큰 모델 없이도 지속 학습만으로 전문성을 계속 키울 수 있다는 것이 발표자가 가장 흥미롭게 보는 시나리오다.

쉽게 이해하기

오하이오 주립대 교수이자 에이전트·지속 학습을 다루는 회사 네오코그니션의 COO인 유 수(Yu Su)가 AI 엔지니어 콘퍼런스 무대에서 기술적 세부보다 개념 정리에 집중한 발표를 했다. 그가 던진 질문은 단순하다. 왜 코딩 에이전트는 그렇게 잘 작동하는데 나머지 영역에서는 형편없는가, 그리고 왜 지금의 에이전트는 토큰을 그렇게 많이 소모하는가.

그는 먼저 에이전트의 역사를 짚었다. 1960~80년대 전문가 시스템과 논리 에이전트, 2010년대 심층 강화학습 기반 에이전트는 인간 지능의 아주 좁은 단면만 담아냈다. 멀티모달 대규모 언어 모델과 그 위에 올린 언어 에이전트에 와서야 여러 감각 입력을 하나의 표현으로 인코딩하면서 동시에 기호적 추론과 소통까지 가능한 모델이 처음 생겼고, 그래서 지금이 기계 지능의 새로운 진화 단계라고 봤다.

그런 에이전트가 처음 찾은 대중 시장이 코딩이다. 발표자는 앤트로픽의 매출 곡선을 예로 들며 2년이 채 안 되는 기간에 매출이 400배 늘어 400억 달러 규모가 됐고 최근 수치는 연환산 600억 달러 정도로 알고 있다고 소개했다. 다만 그는 이 성공이 코딩이라는 영역의 특수성에서 왔다고 본다. 코드는 이미 기호로 기록된 언어 친화적 세계이고 테스트라는 형태로 보상이 준비되어 있다는 것이다.

코드 바깥으로 나오면 사정이 달라진다. 그는 이것을 '현대판 모라벡의 역설'이라고 불렀다. 한때 지능의 정수로 여겨졌던 수학과 코딩 같은 기호적 추론은 잘하지만, 매일 반복되는 평범한 디지털 업무에서는 어이없는 실수를 반복한다는 것이다. 원인으로는 현대 사회가 도메인마다, 직군마다, 심지어 같은 소프트웨어를 쓰는 회사끼리도 설정이 달라 각자의 '국소 물리 법칙'을 가진 수백만 개의 마이크로 월드라는 점을 들었다.

그래서 그가 제안하는 것이 전문성을 새로운 확장 축으로 삼는 일이다. 가로축을 순수 지능, 세로축을 전문성으로 놓으면 지속 학습 없이 모델만 키운 결과는 '세상에서 가장 똑똑한 초심자'다. 어떤 문제든 덤벼들지만 경험이 쌓이지 않으니 매번 무차별 탐색으로 힘으로 밀어붙인다. 반대로 좋은 지속 학습 알고리즘은 그 곡선의 기울기 자체를 바꾼다.

주요 인사이트

• 전문가는 사실을 더 많이 아는 사람이 아니라 세상을 다르게 보는 사람이다. 거대한 버그 리포트에서 문제가 생겼을 법한 곳을 곧바로 짚어내고, 회의 일정 잡기를 빈 시간 찾기가 아니라 권한·우선순위·긴급도에 대한 제약 최적화 문제로 인식한다.
• 지능은 탐색을 넓히고 전문성은 탐색을 좁힌다. 지능은 병렬로 백 가지 방법을 시도하는 쪽으로 가지만, 전문성은 문제 공간의 지름길을 이미 학습해 두었기 때문에 가장 그럴듯한 경로부터 짚는다. 토큰 소모 문제도 여기에 닿아 있다.
• 발표자가 정의한 지속 학습은 '경험을 미래 행동에 쓸 수 있는 구조로 적응적으로 압축하는 것'이다. 어떤 경험을 다룰지, 어떻게 압축할지, 어떤 구조로 남길지, 그 구조를 무엇에 쓸지 네 가지가 각각 다르게 조합되기 때문에 이 분야의 용어가 그렇게 혼란스러운 것이다.
• 신뢰성과 가소성은 본질적으로 충돌한다. 안정적인 시스템은 변화를 거부하고 유연한 시스템은 변화를 반긴다. 다만 발표자는 사람이라는 존재 증명이 있다고 말한다. 우리는 대단히 유연하면서도 대체로 믿을 만하다.
• 공개 데이터가 고갈된 다음의 인터넷 규모 데이터 기회는 각 조직 안의 사적인 세계에 있다는 것이 그의 전망이다. 특화된 에이전트가 현장에서 배우고 그 학습을 일반 모델로 되돌릴 수 있다면 특화가 오히려 일반화를 낳는다.

자주 묻는 질문

관련 AI 소식