문병로 교수 강연: AI 혁명은 은유와 추상의 혁명, 다음은 버티컬 AI 시대

핵심 메시지

• 문명의 역사를 관계 추구의 역사로 보면, 트랜스포머는 관계를 계산하는 방식의 정점에 있다.
• 신경망 학습의 실체는 행렬 곱셈을 통한 공간 변환과 추상화이며, 파라미터의 대부분이 여기에 쓰인다.
• 교수가 직접 만든 알고리즘 시험에서 최상위 모델이 서울대 수강생 전원을 넘어서는 결과가 나왔다.
• 프롬프트를 진화시키는 방식의 자동 알고리즘 탐색은 문제 해결의 무대 자체를 한 단계 끌어올렸다.
• 앞으로 3년은 도메인마다 특화된 버티컬 AI가 본격화되는 시기이며 의료·생명과학이 선두에 있다.

쉽게 이해하기

소프트웨어정책연구소가 연 산업전망 컨퍼런스 기조연설에서 서울대 컴퓨터공학부 문병로 교수는 문명의 역사를 한마디로 관계 추구의 역사라고 요약했다. 어떤 단어도 다른 단어 없이는 정의할 수 없고 어떤 개념도 다른 개념 없이는 설명할 수 없듯, 의미는 관계 속에서만 상대적으로 성립한다는 것이다. 그는 지금 AI 혁명을 이끄는 트랜스포머를 이 관계 추구의 끝판왕이라고 표현했다.

그는 신경망이 층을 올라갈수록 단순한 선과 색에서 점점 추상적인 개념으로 반응이 옮겨가는 과정을, 시각 정보가 뇌의 초기 영역에서 상위 영역으로 넘어가며 추상화되는 과정과 나란히 놓았다. 나아가 공간 감각을 처리하던 대뇌 구조에서 언어 기능이 창발했다는 점을 들어, 고등 사고와 공간 감각의 처리 메커니즘이 상당 부분을 공유할 수밖에 없다고 설명했다. 생각은 움직임의 한 형태라는 말이 그래서 성립한다는 것이다.

기술적으로는 행렬 곱셈에 초점을 맞췄다. 2차원 벡터에 행렬을 곱하면 3차원의 한 점으로 옮겨가듯, 500차원을 1000차원으로 보내는 일도 원리가 같아 50만 개 원소를 가진 행렬 곱셈이 된다. 학습이란 시행착오를 거쳐 이 행렬의 원소, 즉 가중치를 조정하는 일이고, 양으로 보면 파라미터의 대부분이 여기에 해당한다. 트랜스포머의 관계 계산도 두 토큰 벡터를 각각 다른 행렬로 변환한 뒤 추상화된 공간에서 관계를 계산하는 구조라고 그는 정리했다.

강연에서 가장 구체적인 대목은 직접 만든 벤치마크였다. 마땅한 시험 도구가 없어 본인이 알고리즘 강의에서 쓰던 시험 문제를 AI 테스트에 맞게 다듬어 벤치마크로 만들고, 대표적인 LLM 일곱 개를 손수 채점했다. 5월 시험에서 1위를 한 모델은 93명이 듣던 강의에 한 명으로 끼워 넣으면 94명 중 9등, 학점으로는 A+에 해당했다. 석 달 뒤 문항을 늘려 다시 채점하자 새로 나온 모델이 2~3등 수준으로 올라섰고, 이어 등장한 추론 강화 모델은 93.8점으로 1위를 차지해 그 강의를 들은 서울대 학생 누구보다 좋은 성적을 냈다.

그는 진화 알고리즘 기반의 자동 알고리즘 탐색을 특히 중요한 사건으로 꼽았다. 기존에는 코드를 직접 건드려 개선했지만, 이 방식은 코드가 아니라 코드를 바꾸는 방법을 지시하는 프롬프트를 진화시킨다. 문 교수는 이를 두고 문제 해결의 무대를 최상단으로 옮겨놓은 레벨 혁명이라고 이름 붙였다. 다만 수천에서 수만 장 규모의 연산 자원이 필요해 일반 연구실이 흉내 낼 수 있는 방식은 아니라고 선을 그었다.

결론은 버티컬 AI다. 최근 3년의 중심이 범용 LLM이었다면 이제는 도메인마다 특화된 AI가 시작되고 있으며, 앞으로 3년이 그 본격기라는 전망이다. 선두는 단백질 구조 예측이 열어젖힌 의료·생명과학 분야로, 컴퓨터에서 설계된 신약이 임상에 들어가고 있다. 그는 바닥부터 구조를 설계하는 방식과 기존 LLM을 보조 엔진으로 쓰는 방식 두 갈래가 있다고 구분하면서, 자신의 연구실 프로젝트도 그렇게 나뉘어 진행 중이라고 소개했다.

주요 인사이트

• 전문가와 비전문가의 차이를 그는 긴장도 높은 은유를 감지하는 능력으로 정의했다. 얼핏 관계없어 보이는 것들 사이에서 관계를 찾아내는 힘이 곧 문제 해결 수준을 좌우한다는 것이다.
• 프롬프팅은 가볍게 여겨지지만 사용자의 관점과 수준, 그리고 모델 메커니즘에 대한 이해가 그대로 반영되는 기술이다. 그는 자신의 프로젝트에서 1만 단어 규모의 프롬프트 하나를 만드는 데 수개월이 걸렸다고 밝혔다.
• 바이브 코딩으로 자신이 이해하지 못한 코드가 쌓이면, 문제가 터진 지점과 원인이 발생한 지점의 거리가 멀어져 추적이 사실상 불가능해지는 상황이 생긴다. 그래서 트러블슈팅이 가능한 사람의 몸값은 점점 오를 것이라고 봤다.
• AI가 코딩을 맡으면서 소프트웨어 직군이 줄고 있지만, 산업 재편 뒤에는 늘 새 직업이 더 많이 생겼다는 것이 그의 관측이다. 코딩이 관여하지 않던 분야로 수요가 넓어질 것이라고 전망했다.
• 그는 앞으로 프롬프팅을 다루는 별도의 학문 영역이 생길 것 같다고 예상했다. 상대편 AI 기술에 대한 깊은 이해가 전제되어야 하기 때문이다.

자주 묻는 질문

관련 AI 소식