돌봄 윤리로 본 AI의 조건 — 옥스퍼드 시빅 AI 컨퍼런스 조앤 트론토 기조강연 정리

핵심 메시지

• 시빅 AI는 하나의 전능한 AI 대신 사람과 공동체가 집단적 지성이 되고 AI가 그것을 돕는다는 구상으로, 맥락에 맞는 작은 시스템들을 지향한다.
• 기조강연자 조앤 트론토는 돌봄을 정체성이 아니라 활동으로 규정하고, 관심을 두는 단계부터 함께 돌보는 단계까지 다섯 국면으로 나눠 설명했다.
• 돌봄은 그 자체로 좋은 말이 아니며, 식민 지배가 '문명화'라는 돌봄의 언어로 정당화됐듯 나쁜 돌봄도 돌봄으로 위장할 수 있다는 경고가 이어졌다.
• AI를 도구가 아니라 제도로 보자는 제안과 함께, 제도를 평가하려면 목적·권력과의 관계·다양성에 대한 개방성을 함께 따져야 한다는 틀이 제시됐다.
• AI가 돌봄을 표방하면서 실제로는 가치를 뽑아내는 구조가 될 수 있다는 우려, 그리고 언어의 획일화와 자원·노동 소모에 대한 문제 제기로 강연은 마무리됐다.

쉽게 이해하기

옥스퍼드대 AI윤리연구소가 연 시빅 AI 컨퍼런스의 개회와 기조강연이 공개됐다. 연구소 측은 시빅 AI를 '우리 사람들이 초지능이고 AI는 그것을 위해 함께 일하는' 접근으로 소개한다. 하나의 전능한 시스템을 목표로 삼는 대신, 맥락과 필요에 맞는 작은 시스템들이 서로 연결되고 역할이 끝나면 종료될 수도 있어야 한다는 구상이다.

연구책임자 캐럴라인 그린은 이 구상이 세 가지 전제 위에 있다고 설명했다. 사람은 서로 의존하며 살아가고 서로를 돌보는 환경에서 가장 잘 지낸다는 것, 아무리 갈라져 보여도 공통의 지반은 찾을 수 있고 AI가 그 지반을 찾는 데 도움이 된다는 것, 그리고 거대한 단일 시스템보다 맥락에 맞는 시스템이 낫다는 것이다. 치매 돌봄에 관한 대화가 이 작업의 출발점이었다고 한다.

기조강연자는 돌봄 윤리 분야의 대표적 이론가 조앤 트론토다. 강연은 1990년 동료와 함께 내놓은 정의에서 시작한다. 돌봄이란 우리가 이 세계에서 가능한 한 잘 살아갈 수 있도록 세계를 유지하고 이어 가고 고치기 위해 하는 모든 활동이며, 여기서 세계에는 몸과 자신과 환경이 모두 포함된다는 것이다.

트론토는 돌봄을 다섯 국면으로 나눈다. 문제가 있다는 것을 알아차리는 단계, 그것을 해결해야 한다고 책임을 떠안는 단계, 실제로 손을 쓰는 단계, 그 돌봄이 잘됐는지 확인하는 단계, 그리고 돌봄이 신뢰할 수 있게 반복되면서 연대가 생기는 단계다. 길에서 자는 사람을 못 보고 지나쳤다면 첫 단계부터 실패한 것이라는 예시가 뒤따랐다.

강연의 결론은 경고에 가깝다. 트론토는 AI를 기술이나 도구가 아니라 하나의 제도로 보자고 제안하면서, 제도를 볼 때는 그 목적과 권력 관계, 개별성에 대한 개방성을 함께 따져야 한다고 말했다. 소모되는 자원과 노동을 계산에 넣으면 평가가 달라질 수 있고, 언어가 매끄럽게 평준화되는 흐름도 우려된다며 스스로 낙관적이지 않다고 밝혔다.

주요 인사이트

• 'AI가 돌본다'는 표현이 받아들이기 어려운 형태의 AI를 그럴듯하게 포장하는 데 쓰일 수 있다는 지적은, 돌봄을 내세우는 서비스 설계 전반에 적용되는 질문이다.
• 돌봄을 활동으로 보면 평가 대상이 달라진다 — 누가 돌보는 존재인지가 아니라, 알아차림·책임·역량·응답이 실제로 일어났는지를 따지게 된다.
• 여성의 사회 진출이 돌봄 노동을 떠안는 새로운 계층을 만들어 냈다는 과거 지적을 근거로, AI에서도 같은 구조가 반복될 수 있다는 예측이 제시됐다.
• 웹 2.0 시기에도 참여 문화의 확대에 대한 기대가 있었다는 회고는, 기술의 방향이 도구 자체가 아니라 그것을 쓰는 목적에 대한 약속에서 갈린다는 점을 짚는다.
• 번역할 수 있는 아프리카 언어가 몇 개나 되느냐는 마지막 물음은, 중립성을 표방하는 기술이 실제로는 기존의 불균형을 그대로 옮길 수 있음을 드러낸다.

자주 묻는 질문

관련 AI 소식