EU AI법(AI Act) 완벽 정리: 위험 4단계 분류·시행 일정·과징금·찬반 논쟁

핵심 메시지

• EU AI법은 세계 최초의 포괄적 AI 규제로, AI를 위험도에 따라 네 단계로 나눠 차등 규제한다.
• 최소 위험(게임·스팸 필터)은 규제가 없고, 제한 위험(딥페이크·챗봇)은 'AI와 대화 중'임을 알리는 투명성을 요구한다.
• 고위험(교통·의료·교육·공공안전)은 위험 평가, 고품질 데이터, 상세 로그, 사람의 개입 대기를 의무화한다.
• 허용 불가 위험(중국식 사회신용 같은 사회적 점수제)은 EU에서 전면 금지된다.
• 2024년 8월 1일 발효돼 2026년 8월 대부분 규칙이 시행되며, 최악의 위반엔 전 세계 연매출의 최대 7%까지 과징금이 부과될 수 있다.

쉽게 이해하기

영상은 EU가 GDPR, DMA, DSA에 이어 또 하나의 기술 규제로 AI법(AI Act)을 내놓았다고 소개한다. 세계 최초로 AI를 규제하는 국가군이라는 점에서 이정표라는 평가와, '유럽은 규제는 빠르지만 혁신은 느리다'는 비판이 맞선다. AI법의 목표는 인간 중심적이고 윤리적인 AI 개발을 보장하는 기본 규칙을 세우는 것이며, 핵심은 AI를 위험도에 따라 네 단계로 분류해 차등 규제하는 데 있다.

1단계는 '최소 위험'으로, AI 기반 비디오 게임이나 스팸 필터처럼 대다수 AI가 여기 속한다. 충분히 안전해 별도 규제가 없다. 2단계는 '제한 위험'으로 딥페이크와 챗봇이 해당한다. 핵심 규칙은 투명성으로, 명백한 경우가 아니라면 사용자가 봇과 대화하고 있음을 알아야 한다. 챗GPT가 이 영역에 든다.

3단계는 '고위험'으로, 결정과 행동이 사람의 삶에 큰 영향을 주는 중요 영역을 다룬다. 순간 판단으로 안전을 좌우하는 자율주행 등 교통, 수술과 진단을 돕는 의료, 시험 채점과 학생 평가에서 편향을 피하고 사람의 감독이 필요한 교육, 위협을 식별하되 프라이버시를 지켜야 하는 공공안전이 예다. 이런 시스템은 철저한 위험 평가, 최상급 데이터 사용, 상세 로그 유지, 그리고 필요할 때 즉시 개입할 사람을 항상 두어야 한다.

4단계는 '허용 불가 위험'으로 금지 구역이다. 행동에 따라 점수를 매겨 여행 계획부터 자녀 학교 선택까지 좌우하는 중국의 사회신용 시스템 같은 사회적 점수제가 대표적이며, EU에서는 전면 금지된다.

시행 일정도 제시된다. AI법은 2024년 8월 1일 공식 발효됐고, 회원국은 2025년 8월 2일까지 규제를 집행하고 시장을 감시할 국가 당국을 지정해야 한다. 2026년 8월에는 대부분의 규칙이 적용되며, 유럽인공지능위원회가 회원국 전체에 일관된 적용을 보장하고 과학 전문가 패널이 기술 자문과 위험 경고를 맡는다. 규칙을 어기면 최악의 위반자에게는 전 세계 연간 매출의 최대 7%에 이르는 과징금이 부과될 수 있다.

주요 인사이트

• AI법의 설계 철학은 'AI 전체를 일률 규제'하는 것이 아니라 '위험도에 비례해 규제'하는 것이다. 대다수 일상적 AI는 사실상 규제 밖에 있다.
• 제한 위험 단계의 핵심은 기술 자체가 아니라 '투명성'이다. 딥페이크·챗봇은 금지가 아니라, 사용자가 AI임을 알 수 있게 하는 것이 의무다.
• 찬성 측은 두 가지를 든다. 수술 중 AI 오류나 자율주행차의 오인 같은 악몽을 막아 안전을 지키고, EU 전역(나아가 세계)의 규제 표준을 통일해 기업이 같은 규칙으로 경쟁하게 한다는 것이다.
• 반대 측은 혁신 위축을 우려한다. 고위험 AI의 서류·승인 절차가 미로처럼 늘어 미국보다 출시가 느려질 수 있고, 중소기업은 규제 준수에 매출의 1~2.7%를 써야 해 큰 부담이 된다.
• 규제 비용이 대기업보다 중소기업에 더 무겁게 작용해, 결과적으로 자금력 있는 큰 기업에 유리하게 작용할 수 있다는 지적이 나온다.

자주 묻는 질문

관련 AI 소식