다프네 콜러 인터뷰: 확률 그래프 모델에서 인과 추론, AI 신약 개발까지의 30년

핵심 메시지

• 확률 그래프 모델은 복잡한 영역에서 변수 간 상호관계, 특히 인과관계를 수학적으로 모델링하고 인과의 규칙을 지키며 질문에 답하게 하는 틀이다.
• 1985년 IJCAI 패널의 주제는 '숫자가 인공지능에서 역할을 하는가'였고, 주디아 펄을 제외한 참석자들의 결론은 '아니오'였다. 1993년만 해도 AI를 연구한다고 말하기 어려운 분위기였다.
• 확률 그래프 모델의 유산은 분포 자체를 학습한다는 발상과 변분 추론 같은 기법으로 오늘날 생성 모델에, 구조화된 출력과 멀티태스크 학습에, 그리고 인과와 상관의 구분에 이어졌다.
• 에이전트형 AI가 가상 공간을 넘어 물리 세계에 개입하기 시작하면 상관과 인과의 구분은 다시 결정적으로 중요해진다.
• 생물학과 의학은 아직 웹 스케일 데이터에 도달하지 못했고, 고양이 사진으로 얻은 능력이 인체 생물학으로 그대로 옮겨가지 않는다는 것이 콜러의 진단이다.

쉽게 이해하기

머신러닝의 역사를 짚는 팟캐스트 '머신러닝, 우리는 어떻게 여기까지 왔나'에서 진행자 톰 미첼이 다프네 콜러를 초대했다. 1990년대 베이즈 넷, 즉 확률 그래프 모델의 학습 알고리즘을 만든 핵심 인물이자 지금은 인실리트로(Insitro)의 CEO다. 콜러는 확률 그래프 모델을 한 문장으로 이렇게 요약한다. 복잡한 영역에서 변수 사이의 상호관계, 특히 인과관계를 모델링하고, 일부를 관측한 상태에서 다른 것을 인과의 규칙에 맞게 물을 수 있게 하는 수학적 틀이라는 것이다.

출발점은 게임이론이었다. 여러 주체의 상호작용을 다루다가, 단일 주체가 복잡하고 변하는 환경에서 결정을 내리는 문제부터 풀어야 한다는 결론에 이르렀다. 그러려면 환경을 모델링해야 하는데, 당시 방식인 지식 공학은 사람이 세상의 복잡성과 미묘함을 일일이 적어 내려가는 일이라 사실상 불가능했다. '그러면 데이터에서 배우자'가 자연스러운 다음 수였다. 콜러는 자신이 AI를 시작한 적이 없다고 말한다. 자신이 하던 일이 나중에 AI가 되었을 뿐이라는 것이다.

그 시절의 온도차를 보여주는 일화가 있다. 1985년 AI 학회 IJCAI의 한 패널 주제는 '숫자가 인공지능에서 역할을 하는가'였다. 주디아 펄 한 사람을 빼고 패널의 합의는 '아니오'였다. 사람은 세상을 생각할 때 숫자를 쓰지 않으니 AI도 그래야 한다는 논리였다. 콜러가 1993년 스탠퍼드에서 박사를 마칠 무렵에도 AI를 한다고 말할 수 없어 인지 컴퓨팅이나 통계적 학습 이론이라고 불러야 했다. 그가 교류한 사람은 펄, 마이크로소프트의 에릭 호비츠, 박사후 지도교수였던 스튜어트 러셀 정도로 많지 않았다.

콜러는 확률 그래프 모델이 세 갈래의 후손을 남겼다고 정리한다. 첫째는 단순 분류를 넘어 세상의 확률분포 자체를 학습한다는 발상으로, 오토인코더 계열이나 대형 언어 모델처럼 분포를 이용해 생성하는 오늘날의 모델과 변분 추론 같은 알고리즘 아이디어로 이어졌다. 둘째는 구조화된 복잡한 출력과 멀티태스크 학습이다. 이미지에 개가 있느냐 없느냐가 아니라 개와 프리스비와 해변과 모래성을 쌓는 아이 셋을 함께 읽어 내는 문제 설정이 여기서 나왔다. 셋째가 인과와 상관의 구분이다.

지금의 AI 세계에서는 인과에 대한 관심이 상대적으로 적다. 문서를 요약하고 정리하는 일처럼 순수하게 관측에 기반한 질문만으로도 할 일이 많기 때문이다. 하지만 콜러가 인실리트로에서 다루는 질문은 다르다. 특정 표적을 조절하는 개입을 했을 때 이 사람이 나아지는가는 근본적으로 인과적 질문이고, 상관 데이터만으로 답하면 잘못된 결론에 빠진다. 그는 에이전트형 AI가 실제 세계에 개입하기 시작하고 자율주행이나 신약 개발처럼 생사가 걸린 영역으로 나가면, 상관과 인과의 구분이 다시 중요해질 것이라고 본다.

학계에서 산업으로 옮긴 계기도 인상적이다. 2010년 무렵 딥러닝 이전에 종양 조직 검사 이미지를 컴퓨터 비전으로 분석해 예후를 예측하는 연구를 했고, 결과는 평균적인 병리학자보다 좋았으며 당시 최고 수준과 대등했다. 병원들을 찾아가 환자에게 도움이 되니 써 달라고 했더니 돌아온 답은 '제품이 있느냐'였다. 논문이 아니라 제품이어야 했다. 그는 실제로 영향을 주려면 사람들이 쓰고 싶어 하는 무언가를 만들어야 하고, 그 일에 대한 유인은 학계에 없다는 결론에 이르렀다고 말한다.

현장에서 배운 차이도 이야기한다. 가장 우아한 방법이 아니라 되는 방법을 쓰게 되고, XGBoost로 충분한데 이길 방법이 없는 경우도 많다. 실제 문제를 풀어야 한다는 제약이 무엇이 중요한지 걸러 주는 렌즈가 되어 준다. 그리고 스타트업은 함께 성공하거나 함께 실패하는 구조라 협업이 기본값이라는 점을 가장 보람 있는 차이로 꼽는다.

지난 30년에서 가장 놀란 점을 묻자 두 가지를 든다. 하나는 2012~2014년 무렵부터 눈앞에서 성능 곡선이 치솟은 일이다. 지수 곡선은 밑이 조금만 달라져도 5~10년 안에 전혀 다른 결과가 나오기 때문에 예측이 어렵다고 그는 말한다. 다른 하나는 데이터 규모의 힘이다. 수백 개면 대규모 데이터셋이라 부르던 시절을 지나, 리처드 서튼의 '쓰라린 교훈'대로 데이터가 어떤 문턱을 넘는 순간 창발적 성질이 나타났다.

이 깨달음이 2018년 인실리트로 창업으로 이어졌다. 생물학과 의학은 웹 스케일에 도달하지 못했고, 수천에서 수십만 규모에 머물러 있었다. 그래서 규모 있는 데이터를 직접 만드는 공장을 세웠다. 인간 유래 세포로 다양한 세포 시스템을 만들고 유전자를 교란해 세포 상태가 어떻게 변하는지 분자 데이터와 이미징으로 함께 측정한다. 한 번의 실험에서 여러 교란 조건을 걸어 1억 개 규모의 세포를 다루며, 사람이 손으로 피펫을 다룰 때 생기는 배치 효과와 아티팩트가 없어 로봇 쪽이 품질도 더 낫다.

다만 사람은 세포 하나가 아니다. 그래서 혈액과 조직의 오믹스, MRI와 DEXA, CT 같은 장기 수준 영상, 섬유화 여부 같은 시스템 수준의 질환 정보까지 함께 모아 '가상 인간'이라 부르는 것으로 합성한다. 데이터는 대체 가능한 것이 아니라는 점을 그는 거듭 강조한다. 고양이와 개와 비행기 이미지가 웹에 넘친다고 해서 그 능력이 인체 생물학으로 옮겨가지 않는다. 애초에 생성된 적 없는 데이터라면 만들어야 한다.

박사 진학과 취업을 두고 고민하는 사람에게 콜러는 하고 싶은 일에 달렸다고 답한다. 교수가 되려면 박사가 필요하고, 순수하게 이론적인 작업도 회사에서는 자리를 찾기 어렵다. 반면 실제 데이터와 컴퓨팅 자원, 팀 협업이 필요한 응용을 하고 싶다면 산업 쪽이 낫다. 그리고 AI와 다른 분야가 만나는 경계로 가라고 권한다. 두 분야를 모두 익히는 여정이 쉽지는 않지만 — 그는 생물학 논문을 읽으며 세 단어 중 하나만 이해했고 그마저 대부분 전치사였다고 농담한다 — 아무도 시도하지 않은 조합이 남아 있는 곳이 그곳이라는 것이다.

주요 인사이트

• 지금 당연해 보이는 확률적 접근이 한때는 학계의 다수 의견에 반하는 주변부였다는 사실은, 합의가 곧 정답은 아니라는 점을 보여준다. 1985년 패널에서 소수 의견을 낸 사람이 주디아 펄이었다.
• 생성 모델의 계보를 분류가 아니라 '분포를 학습한다'는 발상에서 찾는 콜러의 정리는, 오늘의 대형 언어 모델을 30년 전 연구와 잇는 유용한 관점이다.
• 인과가 다시 중요해지는 시점을 콜러는 'AI가 개입을 시작할 때'로 특정한다. 요약과 검색에는 상관만으로 충분하지만, 행동하는 에이전트에게는 그렇지 않다.
• '제품이 있느냐'는 병원의 질문은 연구 성과와 현장 채택 사이의 간극을 압축한다. 성능이 병리학자를 앞서도 쓰이지 않으면 환자에게 닿지 않는다.
• 데이터는 대체 가능한 자원이 아니다. 웹 스케일 텍스트와 이미지가 있다고 해서 인체 생물학 질문에 답할 수 있는 것이 아니며, 필요한 데이터는 직접 만들어야 한다는 판단이 회사 형태로 구현됐다.

자주 묻는 질문

관련 AI 소식