Titans 논문 해설: 테스트 시점 메모리와 신경망 기반 기억

핵심 메시지

• Titans는 언어모델이 테스트 시점에 스스로 기억을 학습해, 문맥 창 한계를 넘어 아주 긴 텍스트의 앞부분 정보를 뒤로 이어가게 하려는 아키텍처다.
• 트랜스포머는 현재 문맥 창 안만 참조할 수 있고, 선형 트랜스포머는 과거를 하나의 행렬 상태로 압축하지만 성능 경쟁력이 떨어진다는 것이 출발점이다.
• Titans의 핵심은 메모리를 벡터·행렬이 아니라 신경망(작은 MLP)으로 두고, 처리 도중 그 신경망의 가중치를 갱신하는 방식으로 "기억"한다는 점이다.
• 기억은 키를 값으로 매핑하도록 테스트 시점에 학습되며, 갱신 강도를 "놀라움(surprise)"으로 표현하지만 이는 사실상 모멘텀을 곁들인 경사하강법이다.
• 해설자는 좋은 논문이라고 인정하면서도, persistent memory가 사실상 접두 튜닝·완전연결층과 같고 신경망 메모리의 우월성 주장도 과장된 면이 있다고 지적한다.

쉽게 이해하기

Titans는 구글 리서치의 논문으로, 언어모델이 테스트 시점에 기억을 학습하도록 만드는 아키텍처를 제안한다. 긴 텍스트를 여러 조각으로 나눠 순서대로 처리하면서, 앞 조각에서 얻은 정보를 메모리에 담아 뒷 조각으로 넘겨 트랜스포머의 문맥 창 한계를 넘어서려는 발상이다. 해설자는 아이디어 자체는 멋지다고 평가하면서도, 이미 존재하던 것을 새 이름으로 재포장한 마케팅적 요소가 절반쯤 섞여 있다고 본다.

문제 설정은 단순하다. 오늘날 강한 모델은 대개 트랜스포머인데, 트랜스포머는 현재 문맥 창 안의 것만 참조할 수 있다. 비디오 이해나 아주 긴 실제 과제에서는 모든 정보를 한 문맥 창에 밀어넣을 수 없다. 과거에도 BERT 이후 여러 긴 문맥 변형이 시도됐고, 그중 일부는 앞 구간의 마지막 토큰 은닉 상태를 다음 구간에 넘겨 일종의 압축된 메모리처럼 쓰는 Transformer-XL 계열 아이디어였다. 문맥 창 안에서는 트랜스포머처럼, 구간을 넘길 때는 RNN처럼 동작하는 셈이다.

또 다른 축은 선형 트랜스포머다. 소프트맥스의 비선형성은 분리가 안 되어 긴 문맥에서 계산이 이차적으로 폭증한다. 커널 트릭으로 소프트맥스를 분리 가능한 함수의 내적으로 근사하면, 키와 값을 미리 합산해 누적하고 나중에 쿼리를 곱하는 식으로 선형 계산이 된다. 과거를 하나의 행렬 상태로 누적하는 것이다. 하지만 논문은 이 근사가 소프트맥스를 정확히 재현하지 못해 선형 트랜스포머의 성능이 경쟁력이 없다고 지적한다.

Titans의 제안은 모든 아키텍처를 "런타임 메모리를 가진 것"으로 일반화하는 데서 출발한다. 트랜스포머의 메모리는 지금까지의 키·값이고, RNN의 메모리는 은닉 상태다. 여기서 메모리를 더 강력하게 만들자는 것이 핵심으로, 그 메모리를 2층 MLP 같은 신경망으로 둔다. 쿼리를 신경망에 넣으면 현재 문맥 창보다 먼 과거에 대한 정보를 돌려준다. 이때 "기억한다"는 것은 곧 이 신경망의 파라미터를 갱신한다는 뜻이며, 긴 시퀀스를 처리하는 동안 메모리를 초기화한 뒤 조각 단위로 훈련해 나간다.

학습은 키를 값으로 매핑하도록 하는 손실로 이뤄진다. 쿼리가 어떤 키와 비슷하면 그 값을 내놓게 만드는, 전통 어텐션과 같은 목표를 테스트 시점에 훈련하는 것이다. 논문은 갱신 강도를 "놀라움"으로 부르며 손실의 그래디언트로 측정하고, 첫 토큰의 놀라움이 이후로 이어지도록 지연 항을 더한다. 해설자는 이것이 결국 모멘텀을 곁들인 경사하강법과 같다고 지적한다. 또 검색·과제 정보를 담는다는 persistent memory는 사실상 정적 접두 튜닝이자 완전연결층과 다르지 않으며, 저장·검색을 충분히 비선형으로 두면 벡터 메모리도 신경망 메모리와 동등해질 수 있으므로 신경망 메모리의 우월성 주장은 과장이라고 본다. 그럼에도 테스트 시점에 기억하고 잊는 방향 자체는 매우 필요하며 좋은 논문이라고 결론짓는다.

주요 인사이트

• 문맥 창을 무작정 늘리는 대신, 모델이 테스트 시점에 능동적으로 기억하고 잊도록 학습하는 방향은 긴 문맥 문제의 유망한 대안이다.
• 트랜스포머·RNN·선형 트랜스포머를 모두 "런타임 메모리를 가진 것"으로 보는 통일된 관점은 메모리 설계를 새 축으로 끌어올린다.
• "놀라움 기반 갱신"은 인간적 직관으로 포장돼 있지만 수식으로는 모멘텀 경사하강법과 같다 — 해설자는 이런 재명명을 마케팅으로 본다.
• 저장과 검색을 비선형으로 충분히 복잡하게 두면 단순 벡터 메모리도 신경망 메모리와 등가일 수 있어, 신경망 메모리라는 형식 자체가 본질적 우월성을 보장하진 않는다.
• persistent memory는 데이터 독립적으로 학습되는 소수의 파라미터로, 사실상 정적 접두 튜닝·완전연결층과 같은 역할을 한다.

자주 묻는 질문

관련 AI 소식