AI법 없이도 AI를 규제한다: 호주 사례로 본 기업 AI 거버넌스 체크리스트와 그림자 AI 문제

핵심 메시지

• 호주는 2025년 12월 국가 AI 계획에서 전용 AI법을 만들지 않기로 확정했지만, 그렇다고 법적 책임이 사라진 것은 아니라는 것이 발표의 핵심이다.
• 프라이버시법, 회사법상 이사의 의무, 차별금지법, 소비자법, 산업안전보건 의무, 계약과 보통법상 주의의무가 이미 AI 사용에 그대로 적용된다.
• 가장 큰 실무 문제는 규제 공백이 아니라 '가시성'이다. 직원 네 명 중 한 명이 신고 없이 업무에 AI를 쓰는 상황에서는 입력도 출력도 검증할 수 없다.
• 조직 규모와 무관하게 도구 목록, 정책, 교육, 사람의 감독, 벤더 계약 검토, 기록 보관, 감사와 책임자 지정이 기본 골격으로 필요하다.
• 책임 귀속, 불투명성, 자율적 행동이 규제의 세 갈래 단층선으로 남아 있으며, 특히 AI 에이전트의 권한 일탈 문제는 판례를 기다려야 하는 상태다.

쉽게 이해하기

호주에서 열린 AI 안전 포럼에서 15년 경력의 변호사이자 자신이 속한 2000명 규모 로펌의 AI 거버넌스 책임자인 구잘 힐이 던진 메시지는 간단하다. "법은 이미 당신을 보고 있다"는 것이다. 그는 호주 시장에 들어오려는 일부 AI 기업들이 호주를 규제가 없는 무법지대처럼 묘사하지만, 실제로는 기존 법 체계에 기대는 방식을 선택했을 뿐 규율은 상당히 촘촘하다고 반박한다.

그가 든 사례는 진료실이다. 지난해 호주 의료기관의 20%가 AI 진료 기록 도구를 쓰고 있었는데, 지금은 40~50%까지 올라왔다. 환자가 병원에서 말한 내용이 AI로 처리되고 일부는 국외에서 처리된다는 뜻이다. 그는 프라이버시 커미셔너, 의약품 규제 당국, 연방과 주 보건부, 의회까지 이미 이 문제를 들여다보고 있다고 열거하며 이것이 미래가 아니라 오늘의 이야기라고 강조한다.

적용되는 법령의 목록도 구체적이다. 프라이버시법과 회사법상 이사의 의무, 인종·장애 차별금지 및 인권 관련 법, 호주 소비자법, 뉴사우스웨일스주의 디지털 안전 관련 산업안전보건 의무, 핵심 인프라 보안, 비밀유지 의무와 변호사-의뢰인 특권, 의료기록, 조달과 벤더 의무가 모두 포함된다. 그는 여기에 더해 1932년 '병 속의 달팽이' 사건으로 확립된 보통법상 주의의무가 여전히 살아 있다는 점을 상기시킨다.

그가 가장 무겁게 다루는 문제는 규제 공백이 아니라 조직이 자기 내부를 보지 못한다는 점이다. 국방 조직조차 직원의 개인 기기 사용을 막지 못한다는 사례를 들며, 네 명 중 한 명이 신고 없이 업무에 AI를 쓰는 현실에서는 어떤 데이터가 어떤 도구에 들어갔는지, 그 출력이 어떤 결정으로 이어졌는지 추적할 수 없다고 지적한다. 그림자 AI는 보안 문제이기 이전에 가시성 문제라는 것이다.

해법으로 제시하는 것은 조직 규모에 맞춘 최소 골격이다. 허용·금지 도구 목록, 정책 문서(별도 문서가 부담이면 기존 보안 정책이나 기록관리 정책에 포함해도 된다), 교육, 위험 수준에 맞춘 사람의 감독, 벤더 계약 검토, 기록 보관, 감사와 책임자 지정이다. 위험 등급은 내부 이메일이나 회의 안건 초안 같은 저위험, 고객·환자·학생을 향하는 중위험, 사람의 권리와 의무에 영향을 주는 고위험으로 나눈다.

주요 인사이트

• 전용 AI법이 생긴다면 무엇이 달라지느냐는 질문에 그는 "거의 없다"고 답한다. 굳이 꼽자면 사고 보고 체계와, 아홉 개 관할이 제각각인 연방제에서의 규제 통일 정도라는 것이다.
• AI 에이전트가 권한을 넘어설 때의 책임 문제는 기존 대리인 법으로 시작할 수 있다고 본다. 부동산 중개인이 위임 범위를 벗어나면 중개인이 책임지듯 원리는 같지만, 실제 귀속은 법원 판단을 기다려야 한다.
• 이용약관으로 책임을 전가하는 데는 한계가 있다는 점을 짚는다. 호주 소비자법은 불공정 계약 조항을 금지하므로, 모든 산출물의 책임을 이용자에게 넘기는 조항은 불공정하다고 판단되면 배제될 수 있다.
• 그는 AI 기업에 대한 책임 기금 도입을 개인적 견해로 제안한다. 광산 기업의 환경 기금이나 아파트의 장기수선충당금, 변호사의 배상책임보험처럼 피해가 발생할 것을 전제로 미리 쌓아두자는 발상이다.
• 설명가능성 문제는 오히려 논의에서 사라졌다고 지적한다. 5년 전만 해도 알고리즘이 불투명해서 AI를 못 쓴다는 말이 오갔지만 지금은 아무도 그 이유로 도입을 멈추지 않으며, 자동화된 의사결정이 늘어나는 만큼 다시 논의로 돌아와야 한다고 본다.

자주 묻는 질문

관련 AI 소식