사회적 돌봄과 AI 윤리: 인권 프레임워크·현장 교육·데이터 신뢰 문제, 옥스퍼드 AI 윤리연구소 패널 정리

핵심 메시지

• 윤리 원칙은 해석의 폭이 너무 넓어, 국제 인권 프레임워크처럼 검증 가능한 기준이 필요하다는 지적이 나왔다. 기술 업계가 스스로 요건 충족을 선언하는 구조에 대한 경계이기도 하다.
• 현장 돌봄노동자는 AI 앱이 왜 업데이트되는지, 새로 입력하라는 데이터가 어디에 쓰이는지 설명받지 못한 채 사용하고 있으며, 그 정보 공백이 곧 불신으로 이어진다고 말했다.
• 가족 돌봄자들은 이미 무료 챗봇에 민감한 건강 정보를 입력하고 있으며, 이는 안전한 대안을 제공하지 못한 기술 제공자의 책임이라는 자성이 나왔다.
• AI를 쓰는 위험만이 아니라 쓰지 않아서 지원이 닿지 않는 문제도 윤리 문제다. 지자체가 무급 돌봄자의 약 20%에 도달하면 잘하는 축으로 평가되는 현실이 근거로 제시됐다.
• 패널이 꼽은 다음 단계는 전 종사자 대상의 제대로 된 교육, 그리고 이용자가 중심에 '놓이는' 돌봄에서 이용자가 직접 '이끄는' 돌봄으로의 전환이었다.

쉽게 이해하기

옥스퍼드대 AI 윤리연구소가 주최한 'AI와 사회적 돌봄 서밋 2026'의 윤리 패널 세션이다. 연구소의 캐럴라인 에머 데 알부케르케 그린이 진행을 맡았고, 스코티시 케어 대표 도널드 매캐스킬, 돌봄노동자이자 케어 워커스 채리티에서 활동하는 해나 리세이-링컨, 무급 가족 돌봄자를 지원하는 모빌라이즈의 공동창업자 제임스 타운센드, 그리고 지자체 자문을 맡고 있는 당사자 활동가 피터가 참여했다.

진행자는 지난해 만든 가치 프레임워크가 인권과 웰빙, 자율성, 존엄을 중심에 둔다는 점을 짚으며 논의를 열었다. 인력이 부족하니 AI로 빈자리를 메우자는 효율 중심 서사와는 결이 다르다는 것이다. 문제는 이론에서 실천으로 넘어가는 구간이며, AI를 쓰지 않을 때와는 다른 형태의 피해가 무엇인지도 아직 충분히 밝혀지지 않았다.

매캐스킬은 윤리 원칙만으로는 부족하다고 답했다. 원칙은 해석이 제각각이지만 인권은 국제적으로 합의된 법적 틀을 갖고 있다는 이유다. 그는 여러 AI 시스템이 스스로 요건을 충족한다고 주장하는 상황을 두고 기술 업계가 자기 시험지를 자기가 채점할 위험이 있다고 표현했다. 그러면서 참여, 개인의 인권에 대한 분석, 차별 금지, 권한 강화, 합법성으로 이어지는 국제적으로 인정된 원칙 모형을 실무 기준으로 제안했다. 특히 사생활과 심리적 건강, 자율성에 관한 권리가 돌봄 영역에서 가장 자주 쟁점이 되며, 다수의 대규모 언어모델에 연령 차별적 편향이 있다고 지적했다.

현장의 목소리는 더 구체적이었다. 학습장애와 자폐가 있는 성인의 거주 시설에서 일하는 해나는 이용자의 개인정보와 동의 문제를 늘 의식한다고 말했다. 최근에는 업무를 수행한 시간을 함께 입력하라는 앱 업데이트가 있었는데, 왜 그런 데이터를 요구하는지 설명이 없어 의심이 생겼다고 했다. 그는 돌봄노동자가 자신이 지원하는 사람에 대해서는 전문가인 만큼 도구를 바꿀 때 함께 논의해야 한다고 요구했다.

타운센드는 약 15만 명이 오가는 플랫폼에서 관찰한 사용 양상을 전했다. 지자체나 서비스 제공자에게 쌓인 불만을 챗봇에 그대로 쏟아낸 뒤 정중한 편지로 바꿔 달라고 요청하는 방식이 널리 퍼져 있다는 것이다. 동시에 그는 배우자의 건강 상태 같은 민감한 정보가 무료 챗봇을 통해 그대로 외부 기업에 넘어가고 있다는 점을 지적하며, 더 안전하고 접근하기 쉬운 도구를 빠르게 만들어야 할 책임이 기술 제공자에게 있다고 말했다. 나아가 무급 돌봄자의 20% 정도에게만 지원이 닿는 현실을 두고, 도구가 있는데도 지원 범위를 넓히지 않는 것 역시 윤리적 질문이라고 했다.

다음 단계로는 교육이 가장 많이 언급됐다. 생사가 걸린 상황을 다루는 일에 20분짜리 웨비나 하나를 주고 알아서 하라는 방식은 안 된다는 것이다. 해나는 새 근무지에서 하룻밤 동행 근무만 하고 곧바로 혼자 현장에 나갔고, 사용하는 기기의 사용법을 제대로 배운 적이 없다고 털어놨다. 매캐스킬은 이용자를 중심에 두는 돌봄은 이제 낡았다며, 개인이 자율성과 목소리, 방향을 직접 쥐는 '이용자가 이끄는 돌봄'으로 가야 한다고 정리했다. 공동 생산은 예측 가능한 결과를 복사해 붙이는 일이 아니라 개별성을 알아볼 만큼 집중해 듣는 일이라는 말도 덧붙였다.

주요 인사이트

• 설명 없는 기능 업데이트는 그 자체로 신뢰를 깎는다. 돌봄노동자가 새 입력 항목의 목적을 모르면 감시로 해석할 여지가 생기고, 이는 추가적인 스트레스 요인이 된다.
• 민감 정보 유출은 이용자의 부주의라기보다 안전한 대안의 부재에서 온다. 쓸 만한 공식 도구가 없으면 사람들은 손에 잡히는 무료 도구를 쓴다.
• 'AI 도입의 윤리'와 'AI 미도입의 윤리'를 함께 놓고 봐야 한다는 관점이 이 패널의 가장 실용적인 지점이다. 지원이 닿지 않는 집단이 생기는 것도 선택의 결과다.
• 돌봄노동자가 원한 것은 업무 대체가 아니라 번아웃 조기 감지와 야간 단독 방문 시 개인 안전 확보처럼, 노동자 자신을 보호하는 쪽의 활용이었다.
• 패널은 거대한 단일 AI보다 맥락에 맞춘 작은 시스템을 당사자와 함께 만드는 방식이 환경 부담도 적고 필요 변화에 맞춰 진화하기 쉽다고 봤다.

자주 묻는 질문

관련 AI 소식