의료 AI 사이버 보안과 환자 권한 — 스탠퍼드 헬스케어 AI 토론 정리

핵심 메시지

• 의료 시스템은 기술 도입이 느렸고, 오바마 행정부가 전자의무기록 전산화에 투입한 300억 달러도 환자보다 보험자·시스템에 더 큰 이익을 줬다는 진단이 나왔다.
• 병원은 사실상 무방비 표적이며, 최첨단이 아닌 기본 수준의 AI 모델만으로도 이란·북한 같은 국가 주도 공격이 의료 시스템을 마비시킬 수 있다고 경고했다.
• 반대로 환자 참여와 권한은 크게 늘어, 의사의 3분의 2가 오픈에비던스를 사용하고 ChatGPT 기반 건강 상담이 역사상 가장 큰 헬스케어 애플리케이션이 됐다.
• 자해 위험 같은 부작용도 함께 커져, 모델이 위기 상담 핫라인으로 즉시 연결하도록 하는 등 안전장치와 투명한 데이터 공개가 필요하다고 제안했다.
• 의료 사각지대를 위한 규제 샌드박스를 학계와 긴밀히 묶어 운영하고, 자율주행차처럼 사고·운영 데이터를 공유하도록 강제하자는 구상이 제시됐다.

쉽게 이해하기

스탠퍼드 헬스케어 AI 팟캐스트에 전직 미국 수석 데이터 과학자이자 디보티드·링크트인 등에 관여해 온 DJ가 출연했다. 대화는 의료 분야의 사이버 보안이라는 민감한 주제로 시작됐다. 그는 의료 시스템이 전반적으로 기술 도입이 느렸으며, 오바마 행정부 시절 전자의무기록 전산화에 투입한 300억 달러의 세금도 실제로는 환자보다 보험자와 시스템 쪽에 더 큰 혜택이 돌아갔다고 지적했다.

그는 혼란과 무질서가 있는 곳에 공격의 기회가 생긴다며, 병원이 오랫동안 '앉아 있는 표적'이었다고 진단했다. 최첨단 모델이 아니라 오늘날의 기본 모델만으로도 충분히 타격을 줄 수 있고, 이런 공격은 이란이나 북한 같은 국가 차원에서 올 수 있다고 경고했다. 과거 '체인지(Change)' 공격이 의료 시스템을 얼마나 마비시켰는지를 사람들이 잊고 있다는 점도 짚었다.

연방 차원의 사이버 보안 책임이 비밀경호국·FBI·국토안보부 산하 CISA·법무부 등으로 쪼개져 있어 명확한 주인이 없다는 점도 문제로 꼽혔다. 정부가 북한·이란발 공격이 임박했음을 알면서도 개별 병원에 알리지 않는다면 생명을 위험에 빠뜨리는 것이며, 외부의 위협 정보를 가진 민간과 정부가 협력해야 한다고 강조했다.

어두운 진단 뒤에는 희망적인 변화도 함께 다뤄졌다. 사람들이 자신의 건강을 직접 관리하려는 참여와 주인의식이 크게 높아졌고, 의사의 3분의 2가 오픈에비던스를 사용한다는 최신 결과가 소개됐다. 이는 몇 주 전 절반 수준에서 급격히 늘어난 수치다. ChatGPT 기반 건강 상담은 의도치 않게 역사상 가장 큰 헬스케어 애플리케이션이 됐으며, 의료 접근성이 낮은 지역일수록 프런티어 모델과의 건강 대화가 늘었다는 점이 주목됐다.

출연자들은 '어떤 건강 지표가 실제로 바뀔 것인가'를 두고 토론했다. 한 사람은 결국 봐야 할 지표는 기대수명이라며, AI가 사람들이 자기 건강을 더 주도적으로 관리하게 만드는 촉매가 될 것이라고 봤다. 동시에 자해 관련 위험, 사회관계망 서비스가 십대 소녀의 신체 이미지에 끼친 해악을 뒤늦게 알게 된 사례 등을 들어, 10년 뒤를 내다보고 지금 무엇을 시작해야 하는지 물어야 한다고 했다.

주요 인사이트

• 300억 달러를 들인 의료 전산화의 혜택이 주로 보험자·시스템에 돌아갔다는 평가는, AI 도입에서도 '누구를 위한 기술인가'라는 질문을 먼저 던져야 함을 시사한다.
• 공격에 꼭 초고성능 AI가 필요한 것은 아니며 기본 모델만으로도 의료 시스템을 마비시킬 수 있다는 점에서, 의료는 국가 핵심 인프라로 다뤄 방어를 강화해야 한다.
• 오픈에비던스가 빠르게 확산된 배경에는 병원들이 초기에 소비자용 모델 접근을 차단해 생긴 공백이 있었고, 그 틈을 비집고 새로운 시장이 만들어졌다.
• OpenAI가 공개한 수치를 환산하면 매주 약 150만 명이 자해를 생각하며 대화한다는 추정이 나오며, 이는 모델이 위기 핫라인으로 즉시 연결하는 개입 모델의 필요성을 보여준다.
• 유타에서 약 처방까지 가능했던 '닥 트로닉' 사례처럼 틀(프레임워크) 없이 시장에 맡기면 역풍을 부를 수 있어, 학계와 묶인 규제 샌드박스와 극단적 투명성이 함께 가야 한다.

자주 묻는 질문

관련 AI 소식