GraphRAG 코드 검색 실험: 깃넥서스로 80만 토큰 쓰던 코드베이스 검색을 몇 초로 줄이다

핵심 메시지

• 정확한 이름이나 문자열을 아는 검색이라면 grep 기반 에이전트 검색이 여전히 빠르고 예측 가능하다.
• 코드베이스가 커지고 구조를 이해해야 하는 질문이 늘어나면 텍스트 검색만으로는 감당이 어려워진다.
• GraphRAG의 진짜 어려움은 노드와 관계를 설계하는 사전 작업인데, 도구가 이를 자동화하면 진입 장벽이 사라진다.
• VS Code 코드베이스 실험에서 기존 검색은 1분을 훌쩍 넘기며 약 80만 토큰을 소모했다.
• 코드 그래프는 단순 검색을 넘어 '이 변경이 어디까지 파급되는가'라는 영향 범위 분석까지 답한다.

쉽게 이해하기

코딩 에이전트를 써 본 사람이라면 익숙한 장면이 있다. 에이전트가 코드베이스를 뒤지는 동안 하염없이 기다리거나, 검색 한 번에 토큰이 뭉텅이로 빠져나가는 상황이다. 발표자는 이 문제를 코드 검색 방식 자체를 바꿔 풀어보는 실험을 보여준다.

그는 먼저 기존 방식의 장점을 분명히 한다. 코딩 모델에 grep 같은 도구를 붙인 검색은 이름이나 메시지를 정확히 알고 있을 때 대단히 잘 작동한다. 빠르고, 결과가 예측 가능하며, 많은 양의 코드를 짧은 시간에 훑는다. 문제는 코드베이스가 커지고 정확한 텍스트를 모른 채 구조와 배치를 이해해야 하는 질문으로 넘어갈 때다.

대안으로 제시된 것은 코드 그래프 기반 검색이다. 발표자는 그동안 GraphRAG에 회의적이었다고 밝히면서, 그 이유가 기술 자체가 아니라 준비 과정에 있다고 설명한다. 노드를 무엇으로 잡을지, 관계를 어떻게 정의할지 배관 작업에 팀들이 너무 많은 시간을 쓴다는 것이다. 이번에 소개한 도구는 코드베이스를 가리키기만 하면 그 구축을 알아서 끝낸다는 점이 달랐다.

실험은 규모가 큰 VS Code 코드베이스를 대상으로 했다. 먼저 일반적인 방식으로 특정 코드를 찾게 하자, 에이전트는 저장소를 찾고 파일을 훑는 과정을 거치며 1분을 훨씬 넘겼고 소모 토큰은 약 80만에 달했다. 반면 그래프 색인을 MCP로 연결한 뒤 같은 질문을 던지자 결과가 곧바로 돌아왔고, 최상위 순위의 심벌과 코드 조각, 그것이 왜 답인지까지 함께 제시됐다.

더 흥미로운 쪽은 검색 이후다. 특정 명령 실행 지점을 물었을 때 도구는 소스 코드와 들어오는 간선, 즉 그 클래스를 소유하고 실행하는 대상들을 함께 보여준다. 여기서 한 걸음 더 나가면 '이 부분을 바꾸면 어디까지 영향이 가는가'라는 질문에 답이 나온다. 실험에서는 해당 변경의 위험도가 치명적으로 평가되며 영향을 받는 구성 요소들이 함께 제시됐다.

주요 인사이트

• 코드 검색의 비용은 시간뿐 아니라 토큰이다. 80만 토큰이라는 숫자는 검색 전략이 곧 운영비 문제임을 보여준다.
• 사전 색인이라는 초기 비용을 감수하는 대신 질의마다 드는 비용을 낮추는 구조로, 반복적으로 같은 코드베이스를 다루는 팀일수록 이득이 크다.
• GraphRAG가 널리 쓰이지 못한 이유는 성능이 아니라 설계 부담이었고, 그 부담이 도구로 흡수되면 평가가 달라진다.
• 코드 그래프의 가치는 검색 속도보다 관계 정보에 있다. 변경의 영향 범위를 미리 보는 것은 텍스트 검색이 원리적으로 줄 수 없는 정보다.
• MCP로 연결하는 구조라 특정 에이전트에 묶이지 않고 쓰던 도구에 얹을 수 있다는 점이 실무 도입의 문턱을 낮춘다.

자주 묻는 질문

관련 AI 소식