루프 트랜스포머: 레이어 반복으로 추론하는 LLM 구조와 한계

핵심 메시지

• 사고의 연쇄(CoT)는 추론 토큰을 텍스트로 디코딩했다가 다시 은닉 상태로 임베딩하는 과정을 반복해, 추론이 계산 자체가 아니라 이산 토큰 생성을 통해 간접적으로 매개된다.
• 루프 트랜스포머는 고유 레이어를 길게 쌓는 대신 소수 레이어를 하나의 블록으로 묶어 반복 실행하며, 이전 출력 은닉 상태를 다시 입력으로 넣어 표현을 직접 개선한다.
• 학습 때보다 추론 시 반복 횟수를 더 늘리면 학습된 것보다 더 많은 멀티홉 추론이 가능해져, 반복 횟수가 '연산량을 조절하는 다이얼' 역할을 한다.
• 레이어를 반복하면 작은 편향이 증폭돼 오류가 누적·발산할 수 있어, 잔차 흐름을 동적 시스템으로 모델링하고 정규화해 안정화하려는 후속 연구가 이어졌다.
• 표현력 부족·매개변수 중심의 스케일링 법칙·명시적 학습 신호 부재 탓에, 대규모 추론보다는 엣지·소형 모델 같은 제약 환경이 더 유력한 활용처로 지목된다.

쉽게 이해하기

요약 모델은 대량의 '생각 토큰'을 만들어 낸 뒤 답을 내놓는 방식으로 성능을 끌어올리며, 오늘날 거의 모든 모델이 이 방식을 쓴다. 하지만 영상은 이를 다소 불만족스러운 해법이라 부른다. 모델이 추론 토큰을 쓸 때마다 이를 텍스트로 디코딩해 컨텍스트에 붙이고 다음 단계에서 다시 은닉 상태로 임베딩해야 하기 때문이다. 게다가 그 토큰들은 출력 분포에서 샘플링된 것이어서, 추론이 계산 안에서 직접 이뤄지지 않고 이산 토큰 생성을 통해 매개된다.

추론 능력을 재는 대표적 지표로 영상은 멀티홉(다단계) 추론을 든다. 예컨대 '제44대 미국 대통령의 부인은 누구인가'는 먼저 오바마를 떠올린 뒤 다시 미셸 오바마를 연결하는 두 단계가 필요하다. 단일 단계 질문은 패턴 인식·암기로 답할 수 있지만, 멀티홉은 상태 추적과 중간 계산을 요구한다. 추론 기능이 없는 일반 트랜스포머는 이 과정을 한 번의 순방향 계산으로 처리해야 해 한계가 뚜렷하다.

루프 트랜스포머의 핵심은 단순하다. 여러 고유 레이어를 한 번에 쌓는 대신, 몇 개 레이어를 작은 블록으로 만들어 반복 실행하고 한 회차의 출력 은닉 상태를 같은 블록의 입력으로 되먹인다. 영상이 소개한 2026년 4월 논문에서는 학습이 암기 → 분포 내 일반화 → 체계적 일반화의 3단계로 진행되며, 마지막 단계에서 모델이 학습 때 조합해 본 적 없는 방식으로 지식을 결합해 분포 밖으로 일반화한다고 설명한다.

반복 구조는 새로운 문제도 낳는다. 같은 변환을 계속 적용하면 작은 편향이 증폭돼 오류가 쌓이고 발산할 수 있다. 이에 후속 논문은 루프를 잔차 흐름에 대한 동적 시스템으로 보고 반복을 제한·정규화해 붕괴를 막았다. 또 다른 기계론적 분석 논문은 PCA로 잠재 상태를 추적해, 루프 모델이 고정점이나 순환 궤적 같은 안정적 경로를 따르며 초기·중기·후기 반복이 가중치를 공유하면서도 정보 수집·결합·수렴이라는 서로 다른 역할을 맡는다는 점을 보였다.

모든 토큰에 같은 반복 횟수를 강제하는 비효율을 줄이려 2025년 7월 'Mixture of Recursions(MoR)'는 토큰마다 필요한 반복 깊이를 정하는 라우터를 도입한다. 단계마다 계속 여부를 정하는 '전문가 선택' 방식이 사전 할당하는 '토큰 선택'보다 나아, 동일한 3회 재귀 설정에서 42.6% 대 40%의 소수 샷 정확도를 보였다. 다만 루프 트랜스포머는 표현력·스케일링·명시적 학습 신호 면에서 여전히 불리해, 영상은 소형·엣지 환경을 유력한 활용처로 본다.

주요 인사이트

• 반복 횟수를 추론 시점에 늘리는 것만으로 더 깊은 계산을 흉내 낼 수 있어, 파라미터를 늘리지 않고도 '효과적인 깊이'를 확보하는 새로운 스케일링 축이 된다.
• 가중치를 공유해도 매 회차 입력이 달라 같은 함수가 단계마다 다르게 작동하며, 대략적 이해에서 정교한 해답으로 나아가는 과정이 자연스럽게 만들어진다.
• 적응형 재귀는 KV 캐시 부담을 키우지만, MoR은 활성 토큰에만 KV를 저장하는 재귀 기반 캐싱과 첫 회차만 캐싱해 재사용하는 방식으로 이를 완화한다.
• CoT의 큰 장점은 추론 흔적이 토큰으로 드러나 지도학습·강화학습으로 방향을 줄 수 있다는 점이며, 은닉 상태 재귀는 그 명시적 학습 신호가 없어 관리가 더 어렵다.

자주 묻는 질문

관련 AI 소식