AI 진료 기록 도구 실태 조사: 호주 일반의 40% 사용, 규제와 환자 동의는 공백 상태

핵심 메시지

• 호주 일반의(GP)의 약 40%가 진료 대화를 자동으로 받아 적는 'AI 서기'를 쓰고 있고, 도입률은 최근 12~18개월 사이 두 배로 늘었다.
• 이 도구를 쓴다고 홈페이지에 밝힌 의료기관 60곳의 개인정보처리방침을 확인해 보니 AI 서기를 언급한 곳은 4곳뿐이었고, 13곳은 방침 자체가 없었다.
• 호주 의약품관리국(TGA)은 검토 끝에 이 제품군을 규제하지 않기로 했고 개인정보 규제기관(OAIC)에도 별도 지침이 없어, 품질을 검증할 공적 장치가 비어 있다.
• 해외 연구에서는 암 부위를 반대로 적거나 없던 진단을 기록하는 등의 오류와, 통증 호소를 성별에 따라 다르게 처리한 사례가 확인됐다.
• 발표자는 규제기관·정부·산업계·시민사회에 각각 할 일을 제안하면서, 환자에게 AI 기록을 거부할 권리가 보장돼야 한다고 주장했다.

쉽게 이해하기

호주 AI 안전 포럼 2026에서 시민단체 디지털 라이츠 워치(Digital Rights Watch)의 리지 오셰이가 발표한 내용이다. 이 단체는 10년 가까이 온라인 환경의 자유와 공정성을 다뤄 왔고, 최근에는 프라이버시 개혁과 AI 규제로 활동 범위를 넓혔다. 발표자는 자신의 관심사가 최첨단 모델의 위험이 아니라 사람들이 일상에서 실제로 겪는 AI 경험이라고 선을 그으면서도, 그것 역시 명백한 안전 문제라고 강조했다.

배경에는 호주 특유의 여론 지형이 있다. 발표에 따르면 호주인은 세계에서 AI에 가장 덜 낙관적인 축에 속하고, 여론조사에서는 규제가 제대로 이뤄질 때 오히려 신뢰가 올라간다는 응답이 나온다. 그런데 정부가 강한 규제 대신 기존 법과 규제기관의 집행에 기대는 국가 계획으로 방향을 틀면서, 여론은 잦아들기는커녕 더 날카로워지고 있다는 것이 발표자의 진단이다.

단체가 첫 조사 대상으로 고른 것이 1차 진료 현장의 AI 서기였다. 진료실 대화를 듣고 진료 기록을 자동으로 작성해 주는 도구로, 호주 일반의의 약 40%가 이미 쓰고 있고 도입률은 최근 1년 반 사이 두 배가 됐다. 조사는 제공업체의 제품 설명과 의료기관 60곳의 개인정보처리방침을 확인하고, 환자 단체와 일반의·의사 단체를 인터뷰하는 방식으로 진행됐다. 결과는 규제도 검증도 동의 절차도 없는 상태였다. 구체적인 수치가 그 공백을 보여 준다. 개인정보처리방침을 검토한 60곳 가운데 AI 서기를 언급한 곳은 4곳, 음성·영상 수집을 언급한 곳은 3곳이었고, 아예 방침이 없는 곳도 13곳이었다. 의약품관리국은 검토는 했지만 이 제품군을 규제하지 않기로 했고 승인 절차도 두지 않았다. 발표자는 영국에서는 이런 승인 절차가 작동한다고 대비시키면서, 규제가 없으면 임상의도 제품 간 품질을 비교할 근거가 없어진다고 지적했다.

환자가 겪는 문제도 구체적이다. 대화가 기록된다는 사실 자체가 말문을 막는 위축 효과, 영어가 모국어가 아닌 환자의 어려움, 장애 연금 신청 과정에서 잘못 기록된 내용을 되돌리기 어려운 행정적 난관이 언급됐다. 해외 연구에서는 암이 있는 쪽을 반대로 적거나, 진단이 없다는 기록을 진단이 있는 것처럼 바꿔 놓거나, 진단에 중요한 사회적 이력을 빠뜨린 사례가 보고됐다. 영국 사회복지 필요도 평가에서는 통증 호소가 여성과 남성에게 다르게 처리돼, 받게 되는 돌봄의 기준선 자체가 달라진 사례도 있었다.

권고는 네 갈래다. 규제기관에는 의약품관리국이 품질 기준과 조달 지침을 세우고 개인정보 규제기관이 실태를 조사할 것을, 정부에는 규제기관에 충분한 예산과 인력을 줄 것과 프라이버시 개혁을 우선 과제로 올릴 것을 요구했다. 산업계와 임상의에게는 설명 동의 개념을 다듬고 환자의 거부권을 보장하라고, 시민사회에는 계약 관계 바깥에 놓인 환자들이 겪는 피해를 계속 발굴하라고 제안했다. 조사 보고서는 발표 시점에는 아직 공개 전이었다.

주요 인사이트

• AI 안전 논의가 최첨단 모델 쪽에 쏠려 있는 사이, 이미 수백만 명이 매주 접하는 생활형 AI가 규제 사각지대에 남는다는 점을 이 조사는 구체적인 숫자로 보여 준다.
• 규제 공백은 환자만의 문제가 아니다. 공적 기준이 없으면 도구를 고르는 임상의도 무엇이 더 나은 제품인지 판단할 근거를 갖지 못하고, 사실상 업체 설명에 의존하게 된다.
• 개인이 겪는 피해는 개별 사건처럼 보이기 때문에 구조적 문제로 인식되기 어렵다. 시민단체와 연구자의 실태 조사가 규제 논의의 입력값이 되는 이유다.
• 프라이버시 보호 수준이 낮은 환경에서는 민감한 의료 데이터가 예상 밖의 방식으로 쓰이거나 소수 업체로 집중될 위험이 함께 커진다.
• '믿고 쓰라'는 메시지만으로는 여론이 움직이지 않는다는 것이 여론조사의 결론이었다. 검증 가능한 규제가 오히려 수용도를 끌어올린다.

자주 묻는 질문

관련 AI 소식