AI 규제와 혁신은 공존한다, IASEAI 공개 대담이 짚은 세계 AI 거버넌스의 현주소

핵심 메시지

• 혁신과 규제는 맞바꾸는 관계가 아니라 공존하는 관계이며, 오히려 지속 가능한 혁신의 전제 조건이라는 것이 대담의 핵심 주장이다.
• EU AI법은 여덟 가지 금지 조항과 함께 법적 효력을 갖기 시작했고, 유럽평의회 AI 조약은 45개국 이상의 지지를 받아 연내 비준이 예상된다.
• 미국은 국제 AI 거버넌스 논의에서 한발 물러섰고, 그 공백을 여러 중견국이 협력하며 메우고 있다.
• AI 시스템을 독립적으로 평가할 감독 기관이 정책과 기술 사이의 간극을 메우는 열쇠로 지목됐다.
• 배포 전 영향평가와 생애주기 전반의 지속적 평가가 실효성 있는 감독의 핵심 요건으로 제시됐다.

쉽게 이해하기

이 대담은 안전하고 윤리적인 AI를 위한 국제협회(IASEAI)가 정책·거버넌스를 주제로 연 두 번째 공개 질의응답이다. 협회는 2024년 출범해 커뮤니티·연구·정책·교육 네 축으로 활동하며, 올해 파리 유네스코에서 열린 두 번째 연례 학술대회에는 100개국에서 1,300명이 참석해 150건의 발표와 17개 워크숍이 진행됐다. 행동 레드라인, 책임과 보험, 상대가 AI라는 사실을 알 권리, 아동 보호를 다루는 작업반도 새로 꾸려졌다.

초청 연사인 마크 로텐버그는 AI·디지털정책센터를 만들어 각국의 AI 정책을 12개 지표로 평가하는 연례 보고서를 내고 있다고 소개했다. 이 조직은 130여 개국에 2,000명이 넘는 연구 네트워크를 두고 있으며, 최신판은 1,700쪽이 넘어 세 권으로 나눠 출간될 예정이다. 그는 기술 성능 경쟁에 시선이 쏠려 있지만 각국 법령과 법원 판단이라는 거버넌스 영역에서도 분명한 진전이 있다고 평가했다.

정책 활동에서 배운 교훈으로 그는 네 가지를 들었다. 사전 준비를 철저히 할 것, 상대가 입법기관인지 법원인지 국제표준기구인지에 따라 다른 전통과 권한을 이해할 것, 제도와 상대의 판단 능력을 존중할 것, 그리고 이미 합의된 공통 기반을 먼저 찾을 것이다. 성과와 후퇴가 반복되는 분야인 만큼 낙담하지 않고 계속 남아 있는 태도가 성공의 큰 부분이라는 조언도 덧붙였다.

혁신과 규제를 두고는 흔한 오해가 있다고 그는 지적했다. 세계적인 AI 혁신 거점인 캘리포니아가 미국에서 가장 많은 AI 규제를 도입했고, 혁신을 내세우는 중국 역시 빠르게 규제를 만들고 있다는 것이다. 통신·교통·제약·금융처럼 성숙한 산업이 규제 틀 안에서 막대한 부를 만들어 온 것을 보면, 규제는 혁신의 반대말이 아니라 신뢰와 지속 가능성의 기반이라는 설명이다.

질의응답에서는 초상과 목소리 도용, 자율무기, 아동 보호, 미국 내 정책 지형 등이 다뤄졌다. 그는 이름·이미지·초상 도용을 막는 법은 예전부터 있었지만 AI는 걸음걸이와 말투까지 포함한 페르소나 복제라는 새로운 문제를 만들었다고 짚었다. 자율무기에 대해서는 값싼 드론과 AI가 결합해 전쟁 양상을 바꾸고 있으며, 통제를 잃으면 오인과 오작동이 순식간에 확산될 수 있어 미국과 중국의 상시 대화가 필요하다고 강조했다.

주요 인사이트

• 규제 논쟁에서 미국 여론과 워싱턴의 방향이 어긋나 있다는 진단이 눈에 띈다. 여론조사에서는 혁신이 느려지더라도 더 강한 AI 규제를 원한다는 응답이 나오고, 주 정부 차원의 입법도 활발하다는 것이다.
• AI 안전, 아동 보호, 창작자 보호 같은 의제에서는 미 상원에서 초당적 협력이 관찰된다는 점이 희망적인 신호로 제시됐다.
• 암호 기술 규제 논쟁과의 비교가 인상적이다. 당시 전문가들은 규제가 보안을 해친다고 반대했지만, 지금은 기술을 가장 잘 아는 이들이 규제가 필요하다고 목소리를 내는 정반대 상황이라는 것이다.
• 기업이 정부가 요구하지 않는 수준의 공공 안전 기준을 스스로 지키는 현상을 그는 '규제 역전'이라 부르며, 공통 틀 없이는 지속되기 어렵다고 봤다.
• 언론이 인물 중심 보도와 파멸론·낙관론의 양극단 사이를 오가는 대신 문제와 해법이 있는 중간 지대를 다뤄야 한다는 주문도 나왔다.

자주 묻는 질문

관련 AI 소식