AI 거버넌스 기조연설 정리: 합의보다 대화, 그리고 이미 움직이기 시작한 법적 책임

핵심 메시지

• 국제 AI 안전 보고서는 과학적 검토 문서이지, 필요한 법·정책·거버넌스에 대한 합의 검토가 아니다.
• 법과 정책에서 합의를 요구하는 것은 모두에게 거부권을 주는 일이며, 필요한 것은 합의가 아니라 지속적인 대화와 협력의 접점이다.
• 새 AI 법이 없다고 규제가 없는 것은 아니다. 거의 모든 관할권이 이미 어떤 형태로든 AI를 규제하고 있고 법원 판결도 쌓이고 있다.
• AI 안전 연구가 만들어내는 위험 식별 방법과 증거는 곧 직업적 기준이자 법적 책임의 근거가 된다.
• 가장 어려운 과제는 개별 피해가 아니라 기술 격차·권력 집중, 그리고 공유된 현실의 침식 같은 시스템적 문제다.

쉽게 이해하기

이 발표는 2026년 7월 호주에서 열린 AI 안전 포럼의 개회 기조연설로, 시드니대 법학과 킴벌리 웨더롤 교수가 맡았다. 앞선 발표들이 급격히 확장되는 AI 역량과 안전 과제를 이야기하며 "속도"를 반복해 강조한 데 대해, 그는 법률가에게 이 순간이 매우 불편한 자리라는 점을 먼저 인정하며 말을 연다.

그는 행사의 기반이 된 국제 AI 안전 보고서에서 특정 절을 인용하지 않는 이유를 설명한다. 이 보고서는 정책 결정자에게 정보를 제공하기 위한 과학적 검토이고, 과학의 현주소에 대한 공통 기반을 만들려는 시도이지, 그 문제에 대응하는 데 필요한 법·정책·거버넌스를 검토한 문서가 아니라는 것이다. 과학자들이 문제 목록을 건네주며 "이제 법을 쓰라"고 넘기는 구도에 가깝다는 지적이다.

그렇다면 거버넌스도 합의를 목표로 해야 할까. 그는 반대라고 말한다. 합의를 요구하는 것은 사실상 모두에게 거부권을 쥐여주는 일이며, 서로 다른 정치·문화 전통을 가진 사람과 국가가 늘 같은 결론에 도달할 필요는 없다는 것이 민주주의와 국제 사회의 전제라는 것이다. 같은 주에 열린 유엔 행사가 새 조약이나 새 국제기구가 아니라 "글로벌 AI 거버넌스 대화"로 규정된 점을 그는 중요한 신호로 읽는다.

그는 지난 3~4년의 흐름을 성과로 평가한다. 초기 윤리 원칙에서 블레츨리 파크 정상회의와 그 후속, 국제 AI 안전 보고서와 각국 AI 안전연구소 네트워크, 투명성 메커니즘과 기술 표준 작업, 유네스코와 바티칸의 개입까지 논의 주체가 소수 선진국에서 전 세계로 넓어졌다. 법의 시간 감각으로 보면 이는 번개 같은 속도라는 것이다.

"개발 속도가 규제를 앞지른다"는 통념에 대해서도 그는 반론을 편다. 새 AI 법이 눈에 띄지 않을 뿐, 규제 추적 작업들을 보면 사실상 모든 관할권이 어떤 형태로든 AI를 규제하고 있으며, 미국처럼 연방 차원의 움직임이 적은 곳에서도 주 단위 규제가 진행 중이다. 게다가 법은 새 법을 쓰는 일만이 아니어서, 법원이 AI 관련 행위에 책임을 묻기 시작하면 보험·직업 표준·조달 기준·이사의 의무 같은 넓은 집행 네트워크가 함께 작동하기 시작한다.

마지막으로 그는 법이 잘 다루지 못하는 영역을 솔직하게 꺼낸다. 식별 가능한 직접적 위험과 측정 가능한 피해는 법의 고전적 영토지만, 글로벌 기술 격차나 권력 집중처럼 시스템적인 문제는 인류가 잘 풀어본 적이 없다는 것이다. 또 하나는 보고서가 자율성 위험, 유엔 문서가 인식적 영향이라고 부른 문제, 즉 공유된 현실이 무너지는 위험이다.

주요 인사이트

• 거버넌스 논의에서 "합의 부재"는 실패의 증거가 아니라 정상 상태에 가깝다. 목표를 합의가 아니라 공통 기반과 협력 가능한 지점 찾기로 옮기면 훨씬 빠르게 움직일 수 있다.
• "AI 법이 없다"는 인식은 대체로 미국 연방 차원만 바라본 결과다. 주 단위·개별 국가 단위로 내려가면 규제 행위는 이미 상당히 축적돼 있다.
• 법원 판결은 그 자체보다 파급 경로가 중요하다. 책임이 인정되기 시작하면 보험료, 조달 요건, 이사회의 주의 의무 같은 경로로 기업 인센티브가 바뀐다.
• 안전 평가와 위험 식별 방법론은 기술 문서에 그치지 않는다. "예방할 수 있었던 피해"를 입증하는 증거가 되면서 사실상 직업적 표준, 나아가 법적 기준의 재료가 된다.
• 연사가 가장 걱정하는 것은 개별 사고가 아니라 상호운용성 저하와 권력 집중, 그리고 서로 대화하고 공통 기반에 도달하는 민주주의의 능력이 훼손되는 문제다.

자주 묻는 질문

관련 AI 소식