재귀 언어모델 RLM 개념 정리: 대형 코드베이스용 문맥 관리 패턴

핵심 메시지

• 코딩 에이전트는 작은 저장소에선 잘 동작하지만, 거대한 모노레포에서는 문맥이 커질수록 성능이 떨어지는 한계가 있다.
• RLM의 핵심 명제는 문맥 관리를 모델 바깥의 '프로그래밍 가능한 실행 환경'으로 빼내는 것이다.
• 저장소 전체를 모델이 조작할 수 있는 데이터로 취급하고, 모델이 직접 코드를 써서 필요한 부분만 잘라내 주 문맥으로 넘긴다.
• '재귀'는 모델이 처리 도중 다른 모델에게 질문(LLM 쿼리)을 던져 답을 받아 루프를 이어가는 데서 나온다.
• 이 개념은 이미 여러 상용 에이전트 하네스에서 코드 실행으로 문맥을 큐레이션하는 형태로 쓰이고 있다.

쉽게 이해하기

이 강연은 AI Engineer World Fair 2026 온라인 트랙에서 Superagentic AI의 창업자 Shashi가 MIT 등이 발표한 재귀 언어모델(Recursive Language Models, RLM) 논문 개념을, 큰 코드베이스에 어떻게 적용할 수 있는지 설명하는 내용입니다. 논문 자체보다는 이 개념을 자신의 워크플로에 녹여 나만의 하네스를 만드는 방법에 초점을 둡니다.

문제의식은 분명합니다. 코딩 에이전트는 작은 레포에서는 잘 작동하지만, 모노레포처럼 문맥이 큰 경우 문맥이 늘어날수록 성능이 저하됩니다. 기존 해법으로는 grep 같은 도구로 파일을 검색하거나, 시맨틱/로컬 검색으로 문맥을 큐레이션하거나, 긴 문맥을 요약해 압축하거나, 별도 메모리 솔루션으로 기억을 유지하는 방식들이 있었습니다.

RLM의 핵심은 문맥 관리를 모델 안이 아니라 전용 실행 환경으로 외부화하는 것입니다. 저장소 전체를 모델이 다룰 수 있는 데이터로 두고, 모델이 직접 코드를 작성해 저장소를 조사·분할·계산한 뒤 관련 있는 부분만 주 문맥 창으로 넣습니다. 발표자는 이를 거대한 코드베이스에 새로 투입된 리드 엔지니어에 비유합니다. 코드를 한 줄씩 읽는 대신 구조와 의존성을 살피고 노트를 만들며, 막히면 다른 전문가에게 물어보는 방식이 그대로 RLM에 대응된다는 것입니다.

여기서 '재귀'는 모델이 처리 도중 필요할 때 또 다른 모델 환경에 질문을 던지는 LLM 쿼리에서 나옵니다. 저장소를 문맥으로 두고, 모델이 REPL 코드를 실행해 제한된 관찰 결과를 얻고, 정보가 더 필요하면 다른 언어모델에 물어 답을 받아 루프를 이어가며, 최종 결과가 나올 때까지 반복합니다. 코드베이스를 예로 든 이유는 그것이 단순 텍스트가 아니라 디렉터리·테스트·임포트·의존성·설정 등을 가진 구조화된 데이터이기 때문입니다.

발표자는 Superagentic AI가 만든 오픈소스 참조 구현 'RLM code'로 라이브 데모를 보여줍니다. RLM은 특정 구현이 아니라 패턴이므로 각자 방식대로 구현할 수 있으며, 로컬/클라우드 모델을 붙이고 원하는 관측(observability) 프레임워크에 연결할 수 있습니다. 데모에서는 Docker 샌드박스에서 REPL 코드로 근거를 모으고, LLM 쿼리로 추가 문맥을 받아 최종 답과 JSONL 형식의 실행 추적을 얻는 과정을 보여줍니다.

주요 인사이트

• RLM은 프레임워크가 아니라 '패턴'이다. 논문 저자들의 구현(RLM, RLM minimal, DSPy 내 구현)뿐 아니라 각자 방식으로 구현할 수 있다.
• 코드베이스는 단순 텍스트가 아니라 구조화된 데이터이므로, 모델이 코드를 실행해 그 위에서 추론하는 RLM 방식이 특히 잘 맞는다.
• 실용 사례로는 대규모 소스코드의 근본 원인 분석, 저장소 온보딩, 낯선 레포 파악 등이 있으며 필요에 맞춰 자신만의 하네스를 설계할 수 있다.
• 좋은 하네스는 계획·코딩·관찰·서브콜·예산·최종 출력까지 전체 궤적을 기록해 관측 가능해야 한다.
• 발표자는 Codex 하네스가 REPL에서 파이썬 코드로 문맥을 큐레이션하는 것을 RLM의 한 형태로 봤고, Anthropic의 일부 엔지니어도 RLM 개념을 사용했다고 X에서 밝혔다고 전한다.

자주 묻는 질문

관련 AI 소식