생성형 AI와 의료 혁신: 스탠퍼드 강연이 짚은 의료 AI의 현재 성과와 한계, 그리고 사람의 자리

핵심 메시지

• 의료 AI에 대한 태도는 막연한 기대도 냉소도 아닌 근거 있는 낙관이어야 한다. 도구가 놀랍도록 발전했고, 동시에 의료 시스템은 개선이 절실하기 때문이다.
• 첫 성과는 AI 스크라이브(자동 기록)로, 의사를 데이터 입력원에서 해방해 환자와 다시 눈을 맞추게 했다.
• 진짜 변곡점은 진단과 치료를 돕는 임상 의사결정 지원이며, 이는 주머니 속 전문의 자문에 가깝다.
• AI는 완벽한 상태가 아니라 결함 많은 현재 시스템과 비교해야 도입 판단이 가능하다.
• AI에 의존하면 숙련의도 실력이 퇴화(디스킬링)할 수 있고, 사람이 AI를 감독한다는 전제는 종종 정중한 허구에 그친다.

쉽게 이해하기

강연자는 자신의 낙관을 의료 분야에 한정한다. 생성형 AI의 능력이 놀랍고 의료 시스템의 개선이 절실하다는 두 가지가 맞물린 결과다. 한 여론조사에서 미국인은 일자리와 안보 등 대부분 영역에서 AI를 부정적으로 봤지만, 유일하게 의료에서만 긍정적이었다는 점도 같은 맥락으로 해석된다.

그는 ChatGPT 출시 이후 3년의 학습 곡선을 짚는다. AI는 의사 시험을 통과하고, 어려운 사례에서 최고의 진단의에 근접하거나 능가했으며, 공감을 흉내 내고, 일부 연구에서는 AI 단독이 사람과 AI의 협업보다 진단 추론을 더 잘하기도 했다. 초기의 황당한 실수 이후 정확도가 빠르게 올라갔고, 그는 오늘의 AI가 앞으로 쓸 것 중 가장 못한 버전이라는 말을 인용한다.

의료가 AI를 필요로 하는 이유로는 그동안의 해법이 사람을 더 고용하는 것뿐이었다는 점을 든다. 1차 진료의가 부족하면 전문간호사와 진료보조 인력을, 복잡한 청구 규칙에는 수백 명의 청구 담당자를 더 뽑아왔지만 이제는 비용도 인력도 감당하기 어렵고 누구도 만족하지 못한다. 첫 사용처인 AI 스크라이브는 의사를 데이터 입력원에서 해방해 진료를 인간적으로 되돌렸고, 모비딕보다 긴 환자 차트를 요약하는 데도 쓰인다.

동시에 그는 한계를 분명히 한다. 사람이 AI를 감독한다는 human in the loop는 인간이 기술을 신뢰하면 경계심을 잃어(테슬라 자율주행 사고처럼) 결정적 오류를 놓치고, AI가 충분히 좋아지면 오히려 사람이 성능을 떨어뜨릴 수 있다는 역설을 안고 있다. 평균 10년 경력의 대장내시경 전문의가 AI 보조도구를 3개월 쓴 뒤 도구를 끄자 이전보다 못해진 디스킬링 연구도 소개한다. 그가 꼽는 가장 큰 우려는 10초 만에 만들 수 있는 딥페이크이며, 편향과 블랙박스 문제는 다소 과대평가됐다고 본다.

일자리에 대해서는 힌턴이 2016년에 방사선의사 양성을 멈춰야 한다고 했지만 지금은 오히려 방사선의사를 못 구한다는 사례로 신중론을 편다. 의사와 간호사의 단기 대체는 적고 손실은 주로 청구 부서나 콜센터에서 날 것으로 본다. 강연 끝에 그는 폐렴을 앓던 22세 비언어 자폐 환자의 일화를 들며, AI가 진단을 대체할 수 있었더라도 환자와 가족 곁에 선 인간 가이드의 가치는 사라지지 않는다고 마무리한다.

주요 인사이트

• 완벽 대 무용이라는 이분법은 함정이다. AI가 절반만 맞으면 무용하지만 100% 맞으면 인간의 역할이 사라진다. 현실은 그 사이, 유용하지만 완전히 믿을 수는 없는 구간이며 여기서 인간과 AI의 협업 설계가 핵심이 된다.
• 새 기술의 드문 실패(자율주행차가 고양이를 친 사건)는 과대 보도되는 반면, 기존 시스템의 일상적 실패는 당연시된다. 그래서 AI는 완벽이 아니라 현 상태와 비교해야 한다.
• 도입하기 쉬운 저위험 영역(기록과 요약)부터 시작해 신뢰를 쌓은 뒤 고위험 영역(진단 지원)으로 나아가는 단계적 거버넌스가 현실적이다.
• 디스킬링은 초심자가 아니라 평균 10년 경력의 숙련의에게도 나타났다. AI를 끄자 이전보다 못해졌다는 점에서, 교육은 AI 사용법만큼 AI 없이도 하는 법을 지키는 문제가 된다.
• 강연자의 가장 큰 우려는 SF적 초지능이 아니라 딥페이크와 의료의 금융화, 즉 AI가 시스템의 이윤 극대화 도구로 쓰일 가능성이다.

자주 묻는 질문

관련 AI 소식