AI 언어 모델로 인간의 언어 학습을 실험하는 인지과학, TEDx 제니퍼 후 강연 정리

핵심 메시지

• 언어 연구는 아기를 바깥 언어에서 격리할 수도, 동물을 대신 세울 수도 없어 진짜 통제 실험이 불가능하다는 근본적 제약을 안고 있다.
• 언어를 안다는 것은 문법책의 규칙을 외운다는 뜻이 아니라, 처음 보는 문장도 만들고 이해하게 해 주는 밑바탕의 구조를 갖췄다는 뜻이다.
• 언어 모델은 규칙을 미리 넣어 주지 않아도 통계적 연관만으로 복잡한 구조를 상당 부분 익히며, 이는 인간 지능의 표식처럼 보이던 능력의 일부가 연관 학습으로 설명될 수 있음을 시사한다.
• 모델이 실패하는 방식도 정보가 된다. 초록 바다코끼리를 요구하면 갈색 바다코끼리와 초록 말차를 그리는 실수는 구조 대신 연관에 기대고 있다는 신호다.
• 사람은 열 살 무렵 약 1억 단어를 접하고 모국어를 완성하지만 GPT-3는 2000억 토큰, 사람 기준 2만 년치 텍스트를 봤다는 데이터 격차가 남는다.

쉽게 이해하기

강연자는 자신이 계산 인지과학을 연구한다고 소개하며, 사람의 마음에서 언어가 어떻게 작동하는지 묻는다. 입에서 나온 공기의 떨림이 상대의 머릿속 생각으로 옮겨 간다는 일상적 사실이 실은 놀라운 일이라는 것이다. 그런데 이 질문을 과학적으로 다루기는 대단히 어렵다. 진짜 통제 실험을 하려면 사람을 태어날 때부터 바깥 언어에서 떼어 놓아야 하고, 다른 분야가 기대는 동물 모델은 소네트를 쓰거나 프랑스어를 배우지 않기 때문이다.

그래서 강연자의 연구실은 살아 있는 개체 대신 컴퓨터 안에서 실험한다. 대량의 자연어 텍스트로 학습한 인공 신경망을 실험 대상으로 삼는 것이다. 그가 말하는 '언어를 안다'는 것은 학교에서 배운 규칙을 지킨다는 뜻이 아니다. 처음 듣는 문장도 척척 만들고 이해하게 해 주는 밑바탕의 구조를 갖췄다는 뜻이며, 그 구조 덕분에 유한한 뇌가 무한한 문장을 다룰 수 있다.

강연의 중심에는 초록 바다코끼리가 말차 라테의 거품을 재채기로 날려 버렸다는 엉뚱한 예문이 놓인다. 누구도 들어 본 적 없을 문장인데도 청중은 그것이 올바른 영어이며 무슨 뜻인지 바로 안다. 반대로 같은 단어를 거꾸로 늘어놓으면 영어가 아니라는 것도, 뜻을 만들 수 없다는 것도 즉시 알아차린다. 단어의 뜻을 알고 그것을 구와 문장의 뜻으로 합치는 규칙을 갖췄기 때문이다.

모델 실험의 방식은 단순하다. 학습 중에 '초록'과 '바다코끼리'를 각각 보았지만 한 번도 함께 보지 못한 모델이 두 단어를 의미 있게 결합할 수 있는지 확인하는 식이다. 모델 안에는 그런 구조를 배우라고 강제하는 장치가 없으므로, 배운 것이 있다면 순전히 연관을 통해 얻은 것이다. 강연자의 연구는 모델이 여러 복잡한 구조를 놀라울 만큼 잘 익힌다는 결과를 내놓았고, 이는 인간 지능의 표식처럼 여겨지던 능력의 상당 부분이 연관 학습으로 도달 가능함을 시사한다.

그러나 실패도 똑같이 중요한 자료다. 이미지 생성 모델에게 초록 바다코끼리를 그려 달라고 하면 갈색 바다코끼리 옆에 초록 말차를 놓아 주기도 한다. 인터넷에는 갈색 바다코끼리와 초록 말차가 압도적으로 많아 모델이 가장 강한 연관에 기대 버린 것이다. 여기에 더해 데이터 격차가 남는다. 사람은 열 살까지 대략 1억 단어를 접하고 모국어를 완성하는데, 모델은 그보다 수천 배 많은 텍스트를 필요로 한다. 강연자는 AI를 신탁이나 블랙박스로 대하지 말고, 어떤 행동이 인간처럼 보이는지, 그것을 어떻게 배웠는지 물어보라는 제안으로 마무리한다.

주요 인사이트

• AI 모델이 인지과학의 실험 도구가 되는 지점은 성능이 아니라 통제 가능성이다. 무엇을 보여 주고 무엇을 감출지 연구자가 정할 수 있어야 사람에게는 불가능한 실험이 성립한다.
• 모델이 성공하든 실패하든 과학적 소득이 있다는 설계가 인상적이다. 성공은 연관 학습의 도달 범위를, 실패는 그 한계를 알려 주기 때문이다.
• 초록 바다코끼리 사례는 이미지 생성 모델의 흔한 오류를 학습 원리로 설명해 준다. 흔한 조합을 따라가는 결과물은 모델이 구조가 아니라 빈도에 기대고 있다는 신호다.
• 같은 언어 능력을 갖추는 데 사람과 모델이 쓰는 데이터의 양이 수천 배 차이 난다는 사실은, 인간에게 연관 학습 이상의 무언가가 있을 가능성을 가리킨다.
• 여러 언어를 접하며 표면 아래 공통점을 궁금해한 경험이 수학과 전산학을 거쳐 계산 인지과학으로 이어졌다는 개인사도, 학제 간 연구가 어떻게 만들어지는지 보여 준다.

자주 묻는 질문

관련 AI 소식