클로드 속 '생각의 작업공간' JSpace: 앤트로픽 글로벌 워크스페이스 논문 해설

핵심 메시지

• 앤트로픽은 클로드 내부에 모델이 말하기 전에 생각을 잠시 붙들어 두는 작은 신경 패턴 영역이 있다고 보고, 이를 'JSpace'라 부른다.
• 이 영역은 사람이 설계한 것이 아니라 학습 과정에서 저절로 생겨났으며, 문법·유창성·기본 사실 회상 같은 능력은 이 영역 밖에서 자동으로 처리된다.
• 연구진은 JSpace 속 개념을 들여다보고 바꿀 수 있는 '야코비안 렌즈' 도구를 만들어, 숨은 생각을 바꾸면 모델의 답이 따라 바뀌는 것을 보였다.
• 이 구조는 1988년 버나드 바스가 제안한 '글로벌 워크스페이스 이론'—뇌의 여러 기능이 배경에서 돌아가고 무대 위 한 지점에서 의식이 작동한다—과 닮았다.
• 일부는 이를 클로드가 의식을 가졌다는 증거라 주장하지만, 앤트로픽은 논문에서 '이것이 클로드의 의식 여부를 말해 주지는 않는다'고 분명히 선을 그었다.

쉽게 이해하기

앤트로픽이 클로드의 '뇌' 깊은 곳에서 흥미로운 구조를 찾았다는 논문을 공개했다. 모델이 말을 내뱉기 전에 잠시 생각을 붙들어 두는 자리, 연구진이 'JSpace'라 부르는 작고 조직화된 신경 패턴의 집합이다. 이것은 의식을 증명하는 장치가 아니라, 모델이 의도적으로 다룰 수 있는 소수의 '생각'을 담아 두는 일종의 정신적 화이트보드에 가깝다.

흥미로운 점은 이 영역이 사람이 설계해 넣은 것이 아니라 학습 과정에서 저절로 생겨났다는 것이다. 문법이나 유창함, 기본적인 사실 회상 같은 능력은 이 영역 바깥에서 자동으로 처리된다. 마치 우리가 영상을 보는 동안에도 호흡과 심박이 알아서 돌아가는 것과 비슷하다는 설명이다.

연구진은 이 내부 상태를 들여다보고 조작하기 위해 '야코비안 렌즈(J-렌즈)'라는 도구를 만들었다. 편미분을 격자처럼 모아 JSpace 안의 개념(토큰)을 관찰하고 바꾸는 장치다. 어떤 단어가 이 공간에서 켜진다고 해서 모델이 그 단어를 출력한다는 뜻은 아니고, 그저 그 단어를 '염두에 두고 있다'는 의미다.

실험은 직관적이다. '거미줄을 치는 동물의 다리는 몇 개인가'라는 질문에 클로드 내부에서는 답을 말하기 직전 '거미'라는 개념이 켜졌다. 연구진이 그 숨은 '거미'를 '개미'로 바꿔치기하자 클로드의 답이 여덟에서 여섯으로 바뀌었다. 프롬프트나 출력이 아니라 내부 개념만 손댔는데 결론이 따라온 것이다. 언어 실험도 있다. 스페인어 지문을 읽던 클로드는 내부적으로 '스페인어'라고 인식하는데, 그 숨은 인식을 '프랑스어'로 바꾸자 모델은 프랑스어라고 말하면서도 여전히 완벽한 스페인어를 출력했다.

이 결과는 어떤 능력은 이 '작업공간'을 거치고 어떤 능력은 그 아래에서 자동으로 처리된다는 것을 보여 준다. 일부에서는 이를 두고 클로드가 의식을 가졌다고 주장하지만, 앤트로픽은 논문에서 '이 중 어떤 것도 클로드의 의식 여부를 말해 주지 않는다'고 못박았다. 다만 충분한 데이터와 적절한 선형대수만으로 생각을 담는 이런 임시 공간이 저절로 나타났다는 사실 자체는 주목할 만하다.

주요 인사이트

• 내부 개념을 바꿨을 때 최종 답이 따라 바뀐다는 것은, 모델의 출력이 표면적 통계가 아니라 조작 가능한 내부 표현에 실제로 의존한다는 증거로 읽힌다.
• 같은 모델 안에서도 어떤 능력(추론)은 '작업공간'을 거치고 어떤 능력(문법·유창성)은 자동으로 처리된다는 점은, LLM의 내부가 단일한 덩어리가 아님을 시사한다.
• 이 영역이 학습만으로 저절로 생겨났다는 점은 해석 가능성 연구가 왜 중요한지를 보여 준다. 설계하지 않은 구조를 사후에 발견하고 있기 때문이다.
• 구조가 인간의 '글로벌 워크스페이스 이론'과 닮았다는 것은 흥미로운 비유이지만, 닮음이 곧 의식은 아니라는 연구진의 신중함을 함께 봐야 한다.

자주 묻는 질문

관련 AI 소식