재귀 언어 모델(RLM)이란: 컨텍스트 부패를 넘어 1천만 토큰을 처리하는 구조와 한계

핵심 메시지

• 컨텍스트 창이 20만 토큰이어도 실제로 정확히 추론할 수 있는 분량은 그보다 훨씬 적다.
• 재귀 언어 모델은 맥락을 모델이 외워야 할 입력이 아니라 코드로 탐색하는 외부 환경으로 취급한다.
• 주 모델은 파이썬 코드를 짜서 문서를 나누고 걸러 내며, 걸러진 조각만 작은 모델들에 나눠 맡긴다.
• 이 구조로 45만 토큰 문서를 어떤 모델도 한 번에 수천 토큰 이상 보지 않고 처리할 수 있다.
• 재귀 방식은 검색 증강 생성이나 요약을 대체하는 것이 아니라 그것들을 도구로 품는 상위 구조다.

쉽게 이해하기

긴 문서를 넣을수록 언어 모델의 답이 흐려지는 현상을 '컨텍스트 부패'라고 부른다. 영상은 5만 토큰을 넘어서면 성능이 떨어지기 시작하고, 20만 토큰 창을 가득 채우면 정확도가 급락한다고 설명한다. 모델이 20만 토큰을 받아들이는 것과 그만큼을 제대로 이해하는 것은 전혀 다른 문제라는 것이다. 업계가 시도한 해법은 크게 셋이었다. 창을 100만, 200만 토큰으로 넓히는 방식은 비용이 치솟는데도 성능 저하가 남는다. 요약은 압축 과정에서 중요한 세부를 되돌릴 수 없게 버린다. 문서를 잘라 벡터 데이터베이스에 넣고 필요한 조각을 꺼내 오는 검색 증강 생성은 단순 조회에는 강하지만, 여러 대목을 엮어야 하는 촘촘한 추론에서는 서로 연결되지 않은 단편만 돌려준다.

MIT 연구진이 2025년 발표한 재귀 언어 모델은 발상을 바꾼다. 맥락을 모델이 머릿속에 담아야 할 입력이 아니라, 프로그램으로 탐색할 수 있는 외부 환경으로 다루는 것이다. 영상의 표현을 빌리면 '책을 외우지 말고 찾는 법을 배우라'는 접근이다. 구조는 셋으로 나뉜다. 전략을 세우고 코드를 짜는 주 모델, 전체 맥락이 변수로 담겨 있는 파이썬 실행 환경, 그리고 3천 토큰 안팎의 조각만 받아 처리하는 하위 모델들이다.

45만 토큰짜리 1천 쪽 법률 문서를 예로 들어 보자. 문서 전체는 실행 환경에 변수로 올라갈 뿐 모델에 직접 들어가지 않는다. 주 모델은 문서를 150개 구간으로 나누고 '책임'이라는 단어로 걸러 23개 구간만 남기는 코드를 작성한다. 이 23개가 하위 모델들에 배분돼 각각 분석되고, 주 모델이 결과를 모아 종합한다. 어떤 모델도 한 번에 수천 토큰 이상을 보지 않았지만 전체가 처리된 셈이다.

하위 모델이 왜 필요한지는 벤치마크가 보여 준다. 5천 건의 데이터를 분류하는 과제에서 실행 환경만 쓰고 재귀 없이 키워드 규칙에 의존하면 F1 점수가 43.93에 그쳤지만, 모호한 항목을 하위 모델에 넘겨 의미를 판단하게 하자 58.0으로 올랐다. 아무 구조 없이 원본 모델에 그대로 넣었을 때는 데이터를 감당하지 못해 0.04에 머물렀다. 구조와 확정적인 처리는 코드에, 의미 이해는 언어 모델에 맡기라는 것이 교훈이다.

규모의 차이도 크다. 600만~1100만 토큰을 다뤄야 하는 과제에서 재귀 언어 모델은 91.33%의 정확도를 기록했지만 원본 모델은 아예 실행조차 되지 않았다. 다만 지연 시간이 길어지고 코드 생성 능력이 좋은 모델이 필요하며, 짧은 맥락에서는 직접 질의보다 빠르지 않다는 한계도 함께 언급됐다. 연구진은 재귀 자체를 학습시키는 실험도 했다. 480억 규모 코딩 특화 교사 모델이 문제를 재귀적으로 분해하는 과정을 만들어 내면, 이를 걸러 80억 파라미터 모델에 학습시키는 방식으로 원본 대비 28.3% 향상된 첫 재귀 학습 모델을 얻었다.

주요 인사이트

• 모델을 키우는 확장과 추론 시간을 늘리는 확장에 이어, 추론의 '구조'를 바꾸는 세 번째 축이 등장한 셈이다.
• 사람도 백과사전을 통째로 외우지 않고 찾는 법을 익힌다. 외부 기억을 다루는 능력을 학습시킨다는 발상이 이 접근의 핵심이다.
• 컨텍스트 창 숫자만 보고 도구를 고르면 실망하기 쉽다. 실제로 정확한 추론이 유지되는 유효 범위는 표기된 값보다 훨씬 좁다.
• 코드가 잘하는 일과 언어 모델이 잘하는 일을 나눠 맡기는 설계는 긴 문맥 문제 밖에서도 그대로 응용할 수 있는 원칙이다.
• 재귀 구조는 지연 시간과 맞바꾼 선택이다. 짧은 질문에까지 무조건 적용하면 오히려 느리고 비싸진다.

자주 묻는 질문

관련 AI 소식