시각적 주의의 정규화 모델 해설: 나눗셈 정규화와 주의 이득이 만들어 내는 억제 효과

핵심 메시지

• 정규화는 뇌 전반에서 반복되는 표준 연산으로, 절대적인 값이 아니라 주변 평균 대비 얼마나 다른지를 표현해 효율을 얻는다.
• 수식은 놀랄 만큼 단순하다. 관심 뉴런의 흥분성 입력을 주변 뉴런들의 입력 합에 상수를 더한 값으로 나누면 끝이다.
• 레이놀즈와 히거의 주의 정규화 모델은 주의 이득을 정규화 이전 흥분성 입력에 곱한다. 이 한 자리 차이가 모델의 성질을 결정한다.
• 이 구조에서 주의는 오직 증폭만 하는데도 인접한 자극이 억제된다. 주의가 억제성 기제를 따로 갖지 않아도 선택의 대가가 자연히 따라 나온다.
• 같은 원리는 시간에도 적용된다. 앞 자극에 주의하면 앞은 좋아지고 뒤가 나빠지며, 이 상충 관계는 수백 밀리초 규모의 시간 커널을 보인다.

쉽게 이해하기

보스턴대의 레이철 데니슨이 MIT 뇌·마음·기계 센터의 계산 튜토리얼에서 시각적 주의의 정규화 모델을 다뤘다. 그의 연구실은 행동 실험과 신경 측정, 계산 모형을 함께 써서 우리가 왜 모든 것을 동시에 볼 수 없는지를 파고든다. 강연은 정규화가 무엇인지에서 시작해 주의를 그 위에 얹고, 마지막에 시간 축으로 확장한 최근 작업까지 세 단계로 진행된다. 참가자들이 직접 매트랩 코드를 돌려 보는 실습이 중간중간 끼어 있고, 코드는 깃허브에 공개되어 있다.

정규화의 직관은 아침과 저녁의 항구 사진으로 설명된다. 두 장면의 절대 휘도는 완전히 다른데도 우리는 둘 다 어렵지 않게 '배'로 알아본다. 어떤 위치의 절대 밝기는 사실 물체를 알아보는 데 그리 유용한 정보가 아니고, 평균 밝기에서 얼마나 벗어났는지가 훨씬 쓸모 있기 때문이다. 실제로 이 계산은 이미 망막에서 일어난다. 주변 평균 조도가 높으면 반응 곡선이 오른쪽으로, 낮으면 왼쪽으로 이동해 가장 예민한 구간이 그때그때의 평균 밝기에 맞춰진다.

이를 식으로 옮기면 분자에는 관심 뉴런에 들어오는 흥분성 입력이, 분모에는 자기 자신을 포함한 주변 뉴런들의 입력 합과 포화 지점을 정하는 상수가 놓인다. 여기서 중요한 것은 이것이 뺄셈이 아니라 나눗셈이라는 점이다. 주변에 무엇이 있다고 해서 무조건 활동이 줄어드는 것이 아니라, 이미 고전적 수용장이 만들어 낸 활동의 크기를 조절할 뿐이다. 시각피질에서 측정한 대비 반응 함수가 주변 대비를 높일수록 오른쪽으로 밀리는 현상, 그리고 뉴런의 반응이 선형이 아니라 포화하는 시그모이드 형태를 띠는 현상이 모두 여기서 나온다.

주의는 이 식의 어디에 들어가야 할까. 레이놀즈와 히거의 모델은 주의 이득을 분자의 흥분성 입력에 곱한다. 즉 정규화가 일어나기 전에 볼륨을 키우는 셈이다. 실습에서 참가자들이 확인한 결과가 이 모델의 핵심을 잘 보여 준다. 한 자극에 주의를 주자 옆에 있던 다른 자극의 반응이 눌렸다. 그런데 이 모델에서 주의는 오직 증폭만 할 뿐 억제 기능을 갖고 있지 않다. 증폭된 값이 정규화의 분모를 키우면서 이웃이 눌리는 것이다. 주의가 무언가를 깎아 내리는 장치를 따로 갖지 않아도 선택의 이득과 그 대가가 함께 설명된다.

데니슨은 이 관점이 1995년 데시모네와 던컨이 정리한 '편향된 경쟁' 개념과 맞물린다고 짚었다. 정규화가 경쟁을 구현하는 계산이라면, 주의는 그 경쟁을 행동에 필요한 쪽으로 기울이는 조절이라는 것이다. 실증적 뒷받침도 쌓였다. 정규화가 강하게 나타나는 뉴런일수록 주의 효과도 강했고, MRI로 측정한 복셀에서도 같은 관계가 확인됐다. 마지막으로 그는 정지 영상에 머물러 있던 이 모델을 미분방정식 형태로 바꿔 매 시점 반응을 갱신하는 동적 모델로 확장한 최근 작업을 소개했다.

주요 인사이트

• 주의를 '증폭'으로만 모델링해도 억제가 따라 나온다는 점이 이 모델의 가장 우아한 부분이다. 선택의 대가를 별도의 억제 기제로 설명할 필요가 없어진다.
• 억제성 풀은 고전적 수용장보다 넓을 수 있다. 그 영역에 자극이 있어도 그 자체로는 뉴런을 발화시키지 못하지만, 수용장 안에 무언가 있을 때 그 반응의 크기를 조절한다.
• 모델의 차원은 자유롭게 늘릴 수 있다. 공간 한 축이든, 공간 두 축에 방위 같은 특징 축을 더하든 원리는 같다. 무엇이 흥분을 만들고 특징 공간의 어느 부분이 억제에 기여하는지만 정하면 된다.
• 정규화의 실제 구현은 흐리기에 가깝다. 흥분성 입력에 주의를 곱한 뒤 가우시안 필터로 뭉개어 억제성 입력을 만들고, 앞의 것을 뒤의 것으로 나누면 최종 반응이 된다.
• 주의의 상충 관계는 시간 축에서도 나타난다. 앞 자극에 주의하면 뒤 자극의 지각이 나빠지고 그 반대도 성립하며, 이 효과는 200~300밀리초 부근에서 뚜렷하다가 1초쯤 지나면 사라진다.

자주 묻는 질문

관련 AI 소식