ISO 42005 AI 영향평가를 학부 1학년 수업에 넣은 실험 — 호주 대학의 교육 사례

핵심 메시지

• 발표의 문제의식은 'AI가 교육에 무엇을 하고 있나'가 아니라 '교육이 AI에 대해 무엇을 하고 있나'였다.
• 두 발표자는 AI 영향평가 국제표준인 ISO 42005를 컴퓨터공학 1학년 수업에 그대로 끌어들여 학생들이 직접 평가서를 작성하게 했다.
• 영향평가는 개인·집단·사회, 그리고 환경에 미치는 영향을 살피는 절차이며, 사용자 조사나 제품 기획처럼 기술 업계가 오래 해 온 일과 다르지 않다는 것이 발표자의 설명이다.
• 학생들은 모델 카드에 적힌 정보가 얼마나 빈약한지, 학습 데이터에 대한 설명이 얼마나 없는지 직접 확인하며 '내가 무엇에 내 데이터를 넣고 있나'를 처음 자각했다.
• 표준 자체의 약점도 솔직하게 언급됐다. 전부 이행하려 들면 너무 무거워 통과되기 어렵고, 문서를 구매해야 해서 접근성도 떨어진다는 것이다.

쉽게 이해하기

2026년 호주 AI 안전 포럼에서 서니코스트대학의 에리카 밀리 박사와 케이던트의 제임스 가우치가 함께 발표한 12분짜리 세션이다. 제목은 AI 영향평가를 교육에 심는 방법이지만, 두 사람이 실제로 던진 질문은 더 단순하다. 책임 있는 미래의 기술자를 어떻게 길러 낼 것인가다. 발표자는 그날 오간 여러 보고서와 논의에서 빠져 있던 것이 바로 이 대목이라고 지적했다.

수업에 도입한 것은 ISO 42005다. 조직의 AI 관리 체계를 다루는 ISO 42001의 자매 표준으로, 42001이 요구하는 영향평가를 실제로 어떻게 수행하는지를 다룬다. 가우치는 42001이 '영향평가를 하라'고만 하고 방법은 알려 주지 않는다는 점을 짚으며, 42005가 하는 일은 결국 인간 중심 설계나 사용자 경험 조사처럼 기술 업계가 오랫동안 해 온 작업을 체계로 묶은 것이라고 설명했다. 평가 대상은 개인, 공통된 속성이나 장소로 묶인 집단, 사회이며 여기에 환경까지 포함된다.

발표자들은 이 절차가 왜 지금 더 중요해졌는지도 짚었다. 사용자 조사 담당자, 제품 기획자, 디자이너처럼 전통적으로 이런 검토를 수행해 온 직군이 경기가 나빠질 때 가장 먼저 정리되는 흐름이 실제로 진행 중이라는 것이다. 신뢰 문제도 거론됐다. 청중에게 왜 호주에서 AI 신뢰도가 유독 낮은지를 묻자 기관 전반에 대한 불신, 사람들이 AI가 무엇인지 모른다는 점, 부정행위나 환각 같은 피해에 논의가 쏠려 있다는 점이 차례로 나왔다. 가우치는 기술 시스템이 그것을 만든 사람과 조직을 그대로 반영한다는 점을 15년간의 업계 경험으로 확인했다고 덧붙였다.

그래서 표적이 1학년이었다. 대형 기업에 들어가기 전에 멈춰서 생각하는 습관을 들이게 하자는 것이다. 밀리는 미국 반대편에서 원격으로 해킹당할 수 있었던 자동차 사례를 들며, 통신 칩을 붙일 때 아무도 그 영향을 제대로 따져 보지 않은 결과라고 지적했다. 수업에서는 절차를 함께 설계하고 실제 평가서를 문서로 남기게 했는데, 학생들이 모델의 안전 카드에 정보가 얼마나 적은지, 어떤 데이터로 학습됐는지가 얼마나 공개돼 있지 않은지를 직접 찾아보며 놀라는 장면이 이어졌다고 한다. 사례는 광업, AI 창작물처럼 답이 깔끔하지 않은 문제들이었고, 다음 학기에는 유전자 치료에 AI와 자동화를 넣는 사례를 추가할 계획이다. 1인당 15만 달러에 이르는 비용을 낮출 수 있다면 누군가의 일자리를 없애는 쪽이 오히려 도덕적일 수 있는 상황을 학생들과 같이 다뤄 보겠다는 것이다.

발표는 자화자찬으로 끝나지 않았다. 청중이 42005의 약점을 묻자 가우치는 표준이 너무 무거워 전부 이행하려 들면 검토를 통과하기 어려울 것이라고 답했고, 밀리는 도서관이 문서를 구매해야 했다며 비용 문제를 덧붙였다. 두 사람이 강조한 성과는 규정 준수가 아니라 태도의 변화였다. 컴퓨터공학 1학년 학생들이 자기가 앞으로 책임질 시스템의 사회적 영향을 처음으로 이야기해 본 경험, 그리고 그것이 학업과 일상에서 AI를 다루는 방식까지 바꿨다는 점이다.

주요 인사이트

• AI 규제 논의가 대개 기업과 정부를 대상으로 하는 데 비해, 이 발표는 아직 취업하지 않은 사람을 개입 지점으로 잡았다. 표준을 지킬 사람을 먼저 길러 두자는 접근이다.
• 국제표준이 논의에서 빠지는 현상을 발표자가 직접 문제 삼았다. 품질 관리 분야에는 이미 자리 잡은 표준들이 있는데도 AI 보고서에서 언급조차 되지 않는다는 지적이다.
• 영향평가를 위험 관리로만 보면 절반을 놓친다는 점도 짚었다. 표준은 부정적 영향뿐 아니라 긍정적 영향과 기회, 즉 소외된 집단을 더 잘 지원할 방법까지 함께 다루도록 요구한다.
• 학생들이 가장 크게 놀란 지점이 '모델 카드에 정보가 없다'는 사실이었다는 대목은, 투명성 부족이 전문가만의 문제가 아니라 교육 현장에서 바로 체감되는 문제임을 보여 준다.

자주 묻는 질문

관련 AI 소식