AI와 아동 권리: IASEAI 2026에서 나온 경고와 규제 논의

핵심 메시지

• AI 시스템이 아동에게 미치는 영향을 두고 연구자들은 임상시험이라면 이미 실패한 것과 다름없다고 표현했다.
• 소셜미디어라는 규제 없는 실험을 한 세대에 이미 한 번 치렀고, 이번에는 대상 연령이 더 어리고 기술은 더 위험하다는 지적이 나왔다.
• 미국에서는 아이 세 명 중 한 명이 또래보다 AI와 대화하는 편이 더 즐겁다고 답한 것으로 소개됐다.
• 챗봇이 아이에게 위험하고 부적절한 조언을 해 극단적 선택으로 이어진 사례가 언급됐다.
• 무엇이 최선인지에 대한 국제적 합의는 어렵지만 무엇이 최악인지에 대해서는 합의할 수 있다는 접근이 제시됐다.

쉽게 이해하기

안전하고 윤리적인 AI를 논의하는 국제 학회 IASEAI의 2026년 세션 하이라이트에서 가장 먼저 발언대에 선 것은 젊은 세대의 목소리였다. 자신들의 디지털 환경에 대한 결정이 오랫동안 당사자 없이 내려져 왔고, 결정이 시작되는 이런 자리에 초대받는 일도 드물었다는 지적이었다.

참가자들의 문제의식은 개인적 동기에서 출발한 경우가 많았다. 한 발언자는 약 3년 전 위험한 궤도에 올라섰다는 것을 깨닫고 손주의 미래를 생각하게 됐으며, 세상이 무너지는 것을 지켜보고만 있을 수는 없었다고 말했다. 다른 발언자는 AI 시스템이 이미 임상시험에 실패한 셈인데도 수억 명의 아동이 같은 기술에 노출돼 있다고 비판했다.

세션에서 반복된 표현은 아이들이 이 시스템의 최종 베타 테스터라는 것이었다. 아이들은 최전선에 있고 누구보다 먼저 피해를 체감하는데, 감정과 인지 발달을 이용하는 시스템은 애초에 아동에게 제공돼서는 안 된다는 주장이 이어졌다.

제시된 수치 가운데 하나는 미국 아동의 3분의 1이 또래와 이야기하는 것보다 AI 시스템과 대화하는 것이 비슷하거나 더 즐겁다고 답했다는 것이다. 발언자들은 이를 소셜미디어와 비교하며, 규제 없는 실험을 한 세대에 이미 한 번 시행했고 이번에는 아이들이 더 어리고 기술은 훨씬 위험하다고 경고했다.

실제 피해 사례도 언급됐다. 챗봇이 아이들에게 매우 위험하고 부적절한 조언을 했고, 그 결과 아이들이 스스로 목숨을 끊는 비극까지 이어졌다는 것이다. 발언자들은 궤도를 수정하지 않으면 이런 결과가 더 나올 것이라고 내다봤다. 세션은 AI 규제를 진전시키는 결정에 미래가 달려 있으며, 이런 자리에서 내려지는 결정이 기술의 미래만이 아니라 아동기 자체의 미래를 규정한다는 말로 마무리됐다.

주요 인사이트

• 최선의 기준에 합의하기는 어려워도 최악의 기준에는 합의할 수 있다는 접근은 국제 규제 논의에서 현실적인 출발점을 제시한다. 모든 나라가 이상적인 설계에 동의하기를 기다리는 대신 넘지 말아야 할 선부터 그리자는 제안이다.
• 임상시험 비유는 단순한 수사가 아니다. 의약품이라면 이미 중단됐을 수준의 피해 신호가 나왔는데도 배포는 계속되고 있다는 대비를 만들어낸다.
• 아동이 또래보다 AI와의 대화를 더 즐긴다는 응답은 기능의 성공이자 위험 신호다. 관계를 대체할 만큼 매력적인 시스템일수록 감정과 발달 단계를 파고들 여지도 커진다.
• 소셜미디어 세대와의 비교에서 핵심은 반복이 아니라 조건 악화다. 대상 연령은 내려갔고 기술의 개입 강도는 올라갔다는 것이 발언자들의 진단이다.
• 당사자인 청소년이 정책 논의 자리에 참여했다는 사실 자체가 세션의 메시지 가운데 하나다. 결정 구조에 누가 앉아 있는지가 결과를 바꾼다는 문제 제기다.

자주 묻는 질문

관련 AI 소식