의료 AI 챗봇에 전문가 검증을 붙이다 — 마이크로소프트 리서치 헬스봇 인도 배포 사례와 교훈

핵심 메시지

• 인도는 인구 1만 명당 의사가 7명 수준이라 의료진이 환자 한 명에게 충분한 설명 시간을 쓰기 어렵고, 이 정보 격차를 챗봇으로 메우려는 시도가 나왔다.
• 챗봇이 먼저 답을 주되 같은 질문과 답이 담당 의사에게도 전달되고, 의사가 '맞다/아니다/담당자에게 넘김' 중 하나만 고르면 검증이 끝난다.
• 의사는 문장을 다듬을 필요 없이 '2 wks' 같은 약식 메모만 남기면 되고, 시스템이 이를 환자용 문장으로 다시 써서 '검증 완료' 표시와 함께 보낸다.
• 검증된 답변은 지식베이스에 쌓여 다음 환자의 비슷한 질문에 재사용되므로, 시간이 지날수록 전문가의 확인 부담이 줄어든다.
• 연구팀은 생성형 자유도보다 지식베이스 기반의 제한된 응답을 택했고, 모르는 질문에는 '모른다'고 답하게 해 안전장치로 삼았다.

쉽게 이해하기

마이크로소프트 리서치 인도의 모히트 잔 수석연구원은 백내장 수술 환자, 두경부암 환자, 지역 보건요원을 위한 챗봇을 실제 현장에 배포한 경험을 공유했다. 출발점은 기술이 아니라 접근성 문제였다. 인도에서는 인구 1만 명당 의사가 7명 수준이어서, 수술이나 암 치료처럼 정확한 정보가 필요한 상황에서도 환자가 의료진에게 충분히 물어보기 어렵다는 것이다.

환자들이 던지는 질문은 의사 입장에서 보면 서로 비슷하다. 수술 후 언제부터 비리야니를 먹어도 되는지, 언제부터 운전을 해도 되는지 같은 생활 질문이 반복된다. 대형 언어 모델이 이런 반복 질문을 대신 처리할 수 있을 것 같지만, 발표자는 모델이 오류와 환각을 일으킨다는 점, 그리고 오픈AI와 앤스로픽조차 의료·금융·법률 같은 중대한 영역에서 모델에만 의존하지 말라고 이용 정책에 명시한다는 점을 지적했다.

그래서 연구팀이 세운 질문은 '전문가가 AI 시스템을 개선해줄 수 있는가, 그리고 그 대가로 AI가 전문가를 더 많은 환자에게 닿게 해줄 수 있는가'였다. 구현은 왓츠앱 위에서 이뤄졌다. 새 앱을 설치할 필요가 없고 환자가 익숙한 언어로, 음성 메시지로도 물어볼 수 있기 때문이다. 병원 의료진이 직접 정리한 지식베이스에서 답을 만들고, 아직 검증 전인 답에는 물음표를 붙여 상태를 분명히 드러낸다.

핵심은 검증 절차를 의사에게 부담이 되지 않게 만든 부분이다. 질문과 답변 쌍이 담당 의사에게 전달되고, 의사는 답이 정확하고 충분한지 세 가지 선택지로만 답하면 된다. 답이 불완전하다고 하면 환자에게 먼저 정정 예고가 나가고, 의사는 문법이 어긋난 짧은 메모만 남겨도 된다. 실제로 '2 wks' 같은 표기가 '수술 후 2주 동안은 머리를 감지 않는 편이 좋다'는 문장으로 바뀌어 초록색 확인 표시와 함께 환자에게 전달된다. 응답은 실시간일 필요도 없어 의사가 쉬는 시간에 처리하면 된다.

이 구조는 '빌드 유어 오운 엑스퍼트 봇'이라는 오픈소스 프레임워크로 공개돼 마이크로소프트 깃허브에서 받을 수 있다. 같은 플랫폼으로 만든 세 가지 배포 사례가 소개됐는데, 산카라 안과병원 세 곳(방갈로르·하이데라바드·자이푸르)에서는 9~12개월 동안 3000명 이상의 환자가 1만 건 넘는 질문을 던졌고 20명 넘는 의사가 답을 검증했다. 지역 보건요원용 배포에서는 1만 1000명 이상의 아샤 요원이 5만 건 넘는 질문을 했고, 이 경우 검증자는 의사가 아니라 보조 간호조산사 감독자 집단이었다.

주요 인사이트

• '담당 의사가 확인한 답변'이라는 표시 자체가 신뢰를 만든다. 같은 문장이라도 검증 표시가 붙는 순간 환자가 받아들이는 무게가 달라진다는 것이 현장에서 확인된 첫 번째 교훈이었다.
• 검증을 지속 가능하게 만들려면 전문가의 손이 최소한만 가야 한다. 의사에게 문장 편집을 요구하지 않고 약식 메모만 받은 뒤 시스템이 다듬는 방식, 그리고 비동기 처리가 이 시스템이 계속 돌아가게 만든 조건이다.
• 이 영역에서는 창의성보다 신뢰성이 우선이다. 검색·인용 기반의 제한된 응답이 자유롭게 생성하는 방식보다 성능이 좋았고, 출력 범위를 제한한 것 자체가 자동 안전장치 역할을 했다.
• 현지화는 번역과 다르다. 일반 번역기는 힌디어·타밀어·텔루구어 같은 언어에서 맥락과 문화 지식을 놓쳤고, '이것은 아샤 요원이 물은 질문'이라는 맥락을 함께 넣었을 때 비로소 적절한 결과가 나왔다. 피임약 이름이 '남극 대륙'으로 번역된 사례가 그 차이를 보여준다.
• 챗봇이 사이에 끼면서 질문의 문턱이 낮아졌다. 의사와 환자, 감독자와 보건요원 사이의 위계 때문에 기본적인 질문을 꺼내기 어려웠는데, 판단하지 않는 상대가 생기자 사용자들이 훨씬 편하게 묻기 시작했다.

자주 묻는 질문

관련 AI 소식