돌봄 현장의 AI 거버넌스: 옥스퍼드 사회적 돌봄 서밋이 제시한 책임 있는 사용 기준

핵심 메시지

• 돌봄 현장은 이미 챗봇부터 감시 기반 시스템까지 여러 AI를 쓰고 있지만, 무엇이 책임 있는 사용인지에 대한 합의와 규제 지침은 아직 비어 있다.
• 영국의 한 재가 돌봄 사업자가 AI 거버넌스 부재를 이유로 규제기관의 부정적 평가를 받은 사례는 AI가 서비스 품질 문제로 다뤄지기 시작했음을 보여 준다.
• 정부 조사에서 1,085개 돌봄 사업자의 27%가 어떤 돌봄 기술도 쓰지 않는다고 답했고, 1~10명을 지원하는 초소형 사업자는 그 비율이 40%였다.
• 기조 강연자는 돌봄 제도가 권리가 아닌 재량에 기대고 재정이 개인에게 전가되는 구조라며, 가치를 먼저 정리하지 않으면 AI도 도움이 되기 어렵다고 봤다.
• 이 모임의 방식 자체가 결론이기도 하다. 돌봄을 받는 사람과 현장 종사자, 제공기관, 기술 업계가 각각 작업하고 다시 모여 공동으로 지침을 만들었다.

쉽게 이해하기

옥스퍼드대 철학부 산하 AI윤리연구소가 두 번째로 연 AI·사회적 돌봄 서밋의 개막 세션이다. 연구 책임자 캐롤라인 그린은 돌봄을 제공하고 이용하고 연구하고 만드는 사람들이 한자리에 모였다고 소개하며, 이들을 묶는 공통점은 AI가 돌봄받는 사람에게 이익이 되게 하되 위험과 피해를 분명히 붙들자는 바람이라고 말했다. 지난해 서밋이 그동안의 작업을 공유하는 자리였다면, 올해는 그 논의를 이어 갈 연합체의 방향을 함께 그리는 자리로 잡혔다.

현장의 온도는 두 방향으로 갈린다. 한쪽에서는 여러 연구를 통해 일반 목적 챗봇부터 감시 기반 시스템, 행정 업무 보조까지 다양한 사용 사례가 보고된다. 다른 한쪽에서는 보건사회부 조사 결과처럼 응답한 1,085개 사업자의 27%가 어떤 돌봄 기술도 쓰지 않고 있고, 1~10명을 지원하는 초소형 사업자에서는 그 비율이 40%로 올라간다. 도입을 가로막는 장벽이 여전히 크다는 뜻이다.

기조 강연을 맡은 옥스퍼드대 사회정책학 명예교수 메리 데일리는 논의의 바닥을 다시 깔았다. 사회적 돌봄이라는 용어 자체가 영국에서만 쓰이는 말이며, 1948년 입법이 돌봄을 개인이 홀로 감당하지 않게 하겠다는 공적 약속에서 출발했다는 점을 짚었다. 그러나 지금의 제도는 지원받을 권리를 보장하지 않고, 빈곤 구제의 뿌리 탓에 자원을 쥔 쪽의 재량에 좌우되며, 보건 체계와 분리돼 있고, 비용의 상당 부분이 개인에게 넘어가 있다는 것이 그의 진단이다.

데일리는 구조 문제만큼이나 비전의 문제를 강조했다. 지금 제도에서 돌봄은 해결해야 할 과제, 가격표가 붙은 활동 단위, 보람은 있지만 보수는 낮은 일자리로 취급된다는 것이다. 그는 돌봄이 언제나 관계 안에서 일어난다는 돌봄 윤리의 관점을 대안으로 제시하며, 좋은 돌봄이 무엇인지에 대한 합의 없이는 AI가 이 문제를 풀어 주기 어렵다고 말했다. 그가 제안한 것은 전국적 대화와 정치적 결집, 그리고 평소에는 돌봄을 잘 모르다가 닥쳐서야 마주하게 되는 일반 시민의 인식을 바꾸는 일이다.

이어진 발표는 2024년 2월 30여 개 기관이 모인 원탁회의부터 지금까지의 경과를 요약했다. 생성형 AI를 현장에서 써도 되는지 묻는 질문이 쏟아지자 부문 전체가 함께 답을 만들기로 했고, 돌봄 당사자와 제공기관, 기술 공급자, AI 윤리, 돌봄 노동자 단체로 나뉜 작업 그룹이 각자의 지침을 낸 뒤 다시 모여 공통의 기준을 만들었다. 그 결과물은 돌봄을 받는 사람과 종사자의 관점을 담은 문장과 조직·발주기관·업계를 향한 문장으로 나뉘어 12개 영역에 걸쳐 공개돼 있다.

주요 인사이트

• 돌봄 AI 지침이 다루는 영역에는 투명성과 편향뿐 아니라 기술의 지속가능성도 들어간다. 스타트업 제품에 의존하다 그 회사가 사라지면 돌봄 자체가 멈추기 때문이다.
• 규제기관의 부정적 평가 사례는 AI 거버넌스가 별도의 기술 이슈가 아니라 서비스 품질 평가의 일부로 들어오고 있음을 보여 준다.
• 공동 생산 방식을 되돌아본 결과, 참여자 대부분이 방 안의 권력을 다른 누군가가 쥐고 있다고 느꼈다. 모두가 자신을 약자로 인식하는 상태 자체가 논의의 조건이 된다.
• 부문별로 따로 모이는 자리도 여전히 필요했다. 같은 압박을 받는 사람들끼리는 바보 같아 보일까 걱정 없이 기본적인 질문을 던질 수 있기 때문이다.
• 빠르게 움직이는 상업 시장에서 솔직한 대화를 유지하려면 영업 비밀이라는 현실적인 장벽을 어떻게 다룰지 정해 두어야 한다.

자주 묻는 질문

관련 AI 소식