뉴런은 하나의 학습 규칙만 쓰지 않는다: 첨단수상돌기와 기저수상돌기의 서로 다른 가소성

핵심 메시지

• 같은 뉴런이라도 수상돌기의 어느 가지에 붙은 시냅스냐에 따라 서로 다른 가소성 규칙이 작동한다는 것이 이 연구의 핵심이다.
• 세포체에 가까운 기저수상돌기의 시냅스는 뉴런 자신이 활동전위를 낼 때 함께 강화되는 고전적인 헵 방식을 따랐다.
• 위쪽으로 뻗은 첨단수상돌기의 시냅스는 뉴런 전체가 발화하는지와 무관하게, 같은 가지 위 이웃 시냅스들이 함께 활동했는지에 따라 강화됐다.
• NMDA 수용체는 글루탐산 결합과 충분한 탈분극이 겹칠 때만 열리는 동시성 검출기이며, 이 조건을 어떻게 만족시키느냐가 두 규칙을 가른다.
• 생물학적 뉴런은 우리가 생각해 온 것보다 훨씬 복잡한 정보처리 장치이며, 이런 구획별 학습 방식은 아직 인공지능 분야로 거의 넘어오지 않았다.

쉽게 이해하기

지금 이 순간에도 뇌 속 수백만 개 뉴런의 물리적 연결은 계속 바뀌고 있다. 이 능력을 시냅스 가소성이라 부르고, 그 원리를 밝히는 일은 현대 신경과학의 가장 큰 목표 중 하나다. 문제는 관찰이 어렵다는 점이었다. 아주 작은 시냅스의 강도를 실제로 보고 재는 일은 뉴런의 활동을 기록하는 것보다도 훨씬 까다롭다. 최근 실험 기법이 발전하면서 깨어서 행동하는 동물에서도 이 세계를 들여다볼 수 있게 됐다.

영상은 먼저 기본 구조를 정리한다. 수상돌기라는 가지가 신호를 받아 세포체로 모으고, 문턱을 넘으면 뉴런은 활동전위라는 큰 전기 신호를 축삭으로 내보낸다. 시냅스에서는 전기 신호가 화학 신호로 바뀌었다가 다시 전기 신호가 된다. 흥분성 시냅스는 대개 수상돌기 표면이 아니라 버섯처럼 튀어나온 수상돌기 가시 위에 자리 잡는데, 이 가시가 커지면 수용체가 늘어 신호가 강해지고 줄어들면 약해진다. 이 강화가 오래 유지되면 장기 강화, 즉 LTP다.

그 판단을 맡는 것이 NMDA 수용체다. 평소에는 마그네슘 이온이 병마개처럼 통로를 막고 있어서 글루탐산이 붙어도 열리지 않는다. 그런데 수용체가 있는 자리의 막이 충분히 탈분극되면 마그네슘이 밀려나고, 그제야 칼슘이 쏟아져 들어와 수용체를 더 넣고 가시를 키우는 연쇄 반응이 시작된다. 그래서 NMDA 수용체는 글루탐산과 강한 탈분극이 거의 동시에 일어났는지를 판정하는 동시성 검출기라고 불린다.

이 탈분극을 만드는 길은 두 가지다. 하나는 뉴런이 스스로 활동전위를 낼 때 그 여파가 수상돌기로 거꾸로 퍼지는 역전파 활동전위다. 함께 발화하면 함께 연결된다는 헵의 원리가 여기에 해당한다. 다른 하나는 같은 가지 위 가까운 시냅스 여러 개가 비슷한 시점에 활동해 그 자리에서만 탈분극이 더해지는 경우다. 뉴런 전체가 발화하지 않아도 국소적으로 마그네슘이 밀려나며, 이를 비헵 가소성이라 부른다.

연구진은 생쥐 운동피질의 피라미드 세포에 주목했다. 이 세포는 위로 굵게 뻗어 나무 왕관처럼 갈라지는 첨단수상돌기와, 세포체 근처에서 옆으로 퍼지는 기저수상돌기를 함께 갖는다. 두 구획은 모양만 다른 것이 아니라 받는 입력의 출처와 전기적 성질도 다르다. 연구진은 세포체에서 멀고 전기적으로 고립된 첨단 쪽은 국소적 동시 활동에, 세포체에 가까운 기저 쪽은 역전파 활동전위에 더 의존할 것이라고 예상했다. 뇌 절편 실험에서 비슷한 결과가 있었지만, 실제로 학습 중인 살아 있는 동물에서도 그런지는 열린 질문이었다.

주요 인사이트

• 실험 설계가 흥미롭다. 생쥐는 소리 신호에 맞춰 레버를 일정 지점 이상 누르면 설탕 보상을 받는 운동 과제를 며칠에 걸쳐 익혔고, 그동안 운동피질은 시냅스 가소성으로 스스로를 다시 배선하고 있었다.
• 관찰에는 세 가지 장치가 겹쳐 쓰였다. 글루탐산이 붙으면 초록빛으로 반짝이는 센서로 개별 시냅스의 활성을 실시간으로 보고, 붉게 빛나는 칼슘 지표로 뉴런 자신의 발화를 추적하며, 같은 수상돌기 가시를 여러 날 반복 촬영해 크기 변화를 쟀다. 어제의 활동 패턴과 오늘의 가시 크기를 연결하니 어떤 활동이 시냅스 강화를 예측하는지 직접 물을 수 있게 됐다.
• 결정적인 검증은 유전학적 도구로 뉴런이 활동전위를 내지 못하게 막은 실험이다. 첨단수상돌기의 가소성은 거의 영향을 받지 않았지만 기저수상돌기의 LTP는 뚜렷하게 줄었다. 두 규칙이 실제로 다르다는 강력한 증거다.
• 왜 이렇게 나뉘는지는 전기적 성질만으로 설명되지 않는다. 첨단수상돌기는 상위 피질 영역에서 되돌아오는 피드백 연결을, 기저수상돌기는 처리 위계를 따라 올라오는 피드포워드 입력을 주로 받는다. 예측 부호화의 관점에서 보면 기저 쪽은 예측과 실제의 어긋남을 받아들이기 좋은 자리다.
• 영상 진행자는 여기서 이름이 비슷한 기계학습의 역전파와 혼동하지 말라고 못 박는다. 뉴런의 역전파 활동전위는 다른 세포에 아무것도 전하지 않고, 자기 수상돌기에 방금 발화했다는 사실만 알린다.

자주 묻는 질문

관련 AI 소식