AI 공동 과학자와 AI 임상의 — 딥마인드 비벡 나타라잔이 밝힌 다중 에이전트 설계와 검증 결과

핵심 메시지

• 알파고의 자가 대국을 과학에 옮긴 방식이 '자기 토론'이다. 에이전트들이 서로의 가설을 며칠에서 몇 주 동안 비판하고 다듬으며 아이디어를 진화시킨다.
• 시스템은 생성·검토·순위·진화 네 역할의 에이전트가 도는 반복문에 가깝고, 아이디어 검증에 훨씬 더 많은 계산을 쓴다.
• 임페리얼 연구진이 10년 넘게 매달려 얻은 미공개 발견을 시스템이 이틀 만에 최상위 가설로 제시했고, 함께 내놓은 다른 가설 하나는 연구진이 새로 연구를 시작하게 만들었다.
• 의료 쪽 시스템은 환자 시뮬레이터와 의사 에이전트를 맞붙이는 자가 대국으로 수억 건의 대화를 거쳤고, 진단 정확도뿐 아니라 공감과 라포 형성에서도 좋은 평가를 받았다.
• 규제 현실을 감안해 이 시스템은 '전공의' 위치에 놓인다. 초진 문진과 권고안 작성까지만 맡고 최종 판단과 책임은 인간 의사가 유지한다.

쉽게 이해하기

버클리 머신러닝 세미나에 초청된 구글 딥마인드의 비벡 나타라잔은 두 가지 시스템을 소개했다. 하나는 과학자의 가설 생성을 돕는 'AI 공동 과학자'이고, 다른 하나는 진료 대화를 수행하는 'AI 임상의'다. 두 시스템은 계산을 늘릴수록 좋아지는 방법에 기대 온 딥마인드의 계보에서 출발한다. 2016년 알파고가 자가 대국과 강화학습만으로 세계 최고 기사를 넘어섰던 방식을, 정답이 명확하지 않은 과학의 영역으로 어떻게 옮길 것인가가 문제였다.

그들이 찾은 답은 '자기 토론'이었다. 에이전트끼리 게임을 두는 대신 서로의 과학적 아이디어를 두고 토론하게 한다. 계속 새 아이디어를 만들고, 서로 비판하고, 다듬는 과정을 며칠에서 몇 주까지 이어 가면 그 집합적 과정 자체가 하나의 사고 엔진이 된다는 것이다. 입력은 자연어로 쓴 연구 목표다. 짧게 던져도 되고 아주 상세하게 써도 되는데, 구체적으로 쓸수록 결과가 좋다고 한다. 연구자는 원하는 해법의 조건과 후보를 평가할 기준을 함께 넣을 수 있고, 계산이 도는 중간에 끼어들어 방향을 틀 수도 있다. 출력은 대학원생이 가져올 법한 연구 제안서 형태의 문서다.

내부 구조는 의외로 단순하다. 새 가설을 만드는 생성 에이전트, 그것을 심사하고 비판하는 검토 에이전트, 후보들의 순위를 매기는 순위 에이전트, 피드백을 반영해 아이디어를 합치고 단순화하는 진화 에이전트가 돌아가는 반복문에 가깝다. 발표자는 팀 크기 비유를 들었다. 너무 작으면 복잡한 문제를 감당하지 못하고, 너무 크면 일하는 대신 조율에만 시간을 쓴다. 그래서 역할을 분명하고 좁게 나누는 것이 중요하다는 것이다. 눈에 띄는 점은 아이디어를 만드는 에이전트는 하나뿐인 반면, 환각을 걸러 내고 근거를 검증하는 쪽에 훨씬 많은 계산이 배정돼 있다는 사실이다.

순위 매기기의 최소 단위도 토론이다. 두 아이디어를 몇 차례 주고받게 한 뒤 어느 쪽이 나은지 판정하고, 이 승패를 모아 체스나 바둑처럼 점수를 계산한다. 판정 기준에는 연구자가 지정한 조건과 함께 참신성·실현 가능성, 그리고 생물무기 악용 같은 위험을 걸러 내는 안전성이 들어간다. 이렇게 나온 순위는 어느 아이디어를 먼저 볼지 알려 주는 동시에, 시스템이 자기 확신을 얼마나 갖고 있는지 전달하는 장치이기도 하다. 토론 내용은 자연어로 요약돼 다음 회차의 맥락으로 들어간다. 가중치를 갱신하는 학습이 아니라 언어로 된 피드백을 통한 학습이라는 점에서, 발표자는 이를 코치의 한두 마디로 배우는 사람의 방식에 가깝다고 설명했다.

후반부는 의료 쪽 시스템이다. 환자 역할을 하는 시뮬레이터와 의사 역할 에이전트를 맞붙이고, 비평자가 진단의 질과 대화의 질을 평가해 되먹인다. 이 자가 대국으로 수억 건의 대화를 돌린 뒤 좋은 대화만 다시 학습에 넣는 방식이다. 발표자는 아무리 많이 진료한 의사도 평생 5만 명 남짓을 본다는 점을 들며, 시뮬레이션 안에서는 그보다 몇 자릿수 많은 사례를 이미 겪었다고 말했다. 실제 연구는 의대생 실기시험 방식을 본떠 훈련된 모의 환자와 대화하게 하는 형태로 진행됐고, 진단 정확도와 치료 권고뿐 아니라 라포 형성과 공감으로 볼 수 있는 항목에서도 좋은 평가를 받았다.

주요 인사이트

• 가장 인상적인 사례는 2024년 추수감사절 무렵 있었던 검증이다. 임페리얼 연구진이 10년 넘게 매달려 얻었지만 아직 발표하지 않아 웹에 데이터가 없던 발견을 같은 조건으로 시스템에 던졌더니, 이틀 만에 최상위 가설로 정답이 나왔다. 연구자는 결과를 받고 구글이 자기 컴퓨터나 메일에 접근한 게 아니냐고 물었다고 한다. 더 인상적인 건 함께 제시된 나머지 네 개도 말이 됐고, 그중 하나는 연구진이 생각조차 못 했던 방향이라 지금 새로 연구를 시작했다는 대목이다.
• 이후 사례들은 재현이 아니라 새로운 발견 쪽으로 넘어간다. 급성 골수성 백혈병에 쓸 수 있는 약물 재창출 후보와 병용 요법, 간 섬유증의 새로운 표적과 그 표적에 작용할 기존 약물 및 오가노이드 검증 실험 계획, 알파폴드를 활용한 단백질 설계 등이 언급됐고, 상당수가 동료 심사를 거친 논문으로 나왔다.
• 발표자는 이 시스템이 과학자를 대체한다고 보지 않는다. 임상시험의 90%가 실패하고 종양학에서는 97%에 이르는 상황에서, 가설 단계는 전체 작업의 10~20% 정도이며 시간이 오래 걸리는 부분은 분자를 만들고 시험하는 과정이라는 청중의 지적도 그대로 받아들였다. 그가 기대하는 것은 시간 단축보다 성공 확률의 개선이다.
• 모델 자체는 특별하지 않다. 시스템은 별도 미세조정 없이 공개된 제미나이 모델을 그대로 쓰며, 기존 API만으로 뼈대를 구성할 수 있다고 밝혔다. 초기에는 모델의 지시 이행 능력이 부족해 하나의 작업을 여러 호출로 쪼개야 했지만, 모델이 좋아지면서 오히려 구조가 단순해졌다는 설명도 나왔다. 에이전트를 더 늘리는 것보다 도구를 늘리는 편이 도움이 된다는 것이다.
• 잠재 공간에서 추론하면 토큰을 훨씬 아낄 수 있지 않느냐는 질문에 대한 답이 흥미롭다. 발표자는 효율 면에서는 맞지만, 지금 구조는 모든 계산 단계와 추론 사슬을 사람이 열어 볼 수 있다는 점에서 안전성과 해석 가능성 측면에서 훨씬 낫다고 답했다. 강력한 시스템이 자기 사고 과정을 드러내지 않는 미래는 두렵다는 것이다.
• 의료 시스템의 배치 방식은 규제 현실에서 출발한다. 대부분의 나라에서 진료는 면허를 가진 사람의 행위이기 때문에, 이 시스템은 전공의처럼 초진 문진과 정보 수집, 권고안 작성까지만 맡고 환자에게 전달하는 것은 의사의 승인 이후다. 이 방식으로 진행한 연구에서 의사가 볼 수 있는 환자 수가 두 배가량 늘었고, 지난달 보스턴의 한 의료원에서는 실제 환자가 진료 전에 이 시스템과 대화하는 임상시험이 마무리됐다.

자주 묻는 질문

관련 AI 소식