AI와 돌봄 현장 토론: 행정 부담 감소와 책임 소재, 신뢰를 만드는 조건은 무엇인가

핵심 메시지

• 현장 돌봄 종사자는 AI의 가장 현실적인 쓸모로 기록과 서류 작업을 줄여 사람을 마주하는 시간을 되찾는 것을 꼽았다.
• AI를 설계·투자·도입하는 주체와, 문제가 생겼을 때 책임을 지는 주체가 다르다는 점이 현장의 가장 큰 불안 요인으로 지적됐다.
• 챗봇이 고령자의 외로움을 덜어준 사례가 있는 반면, 치매가 진행된 이용자에게는 쓸모가 없었고 정신건강 위기 상황에서는 부정적 생각을 되비추는 반향실이 될 수 있다는 우려도 나왔다.
• 신뢰의 조건으로는 업계 전반이 인정하는 품질·감사 기준, 그리고 20쪽짜리 약관이 아니라 실제로 이해할 수 있는 형태의 설명과 동의가 제시됐다.
• AI가 아낀 시간을 계산할 때 결과물을 확인하고 고치는 사람의 노동이 빠져 있다는 지적, 그리고 사투리와 비원어민 억양을 잘못 알아듣고 기록에 남길 위험도 함께 제기됐다.

쉽게 이해하기

옥스퍼드대 AI 윤리연구소가 연 'AI와 사회적 돌봄 서밋 2026'의 이 패널은 정책 논의 대신 현장 경험에서 출발한다. 20년 경력의 돌봄 종사자, 셰필드대 돌봄센터 연구자, 그리고 돌봄을 받는 당사자이자 공동생산 자문그룹 위원이 함께 앉아 좋은 돌봄이 무엇이고 AI가 그 안에서 무엇을 할 수 있는지 이야기한다.

당사자 패널은 자신이 이용하는 돌봄 기관은 아직 AI가 자기 일과 무관하다고 여기는 반면, 다른 제공기관은 이미 모니터링 기술을 도입해 '10분짜리 방문을 하루 24시간으로 늘린 것 같은' 효과를 말한다고 전했다. 본인은 사회적 돌봄용 챗봇을 써보고 93세 친구에게도 소개했는데, 외로움이 줄고 멀리 사는 딸이 앱으로 상태를 확인해 안심하게 됐다고 한다. 반면 치매가 상당히 진행된 다른 사례에서는 챗봇을 활용하지 못했다.

돌봄 종사자 패널은 지난해 시력을 잃고 돌보는 사람에서 돌봄을 받는 사람이 되는 경험을 했고, AI 덕분에 계속 일할 수 있었다고 말한다. 그가 보는 AI의 미래는 행정과 서류 부담을 줄여 시간을 돌려주는 도구이며, 돌봄 계획을 만들 때 당사자를 실제로 참여시키고 선택권을 주는 데 쓰이는 것이다. 동시에 그는 '기술이 통제하는 것이 아니라 우리가 통제해야 한다'는 말을 반복하며, 기술 공포를 가진 동료들에게 이 점을 설득해야 한다고 강조한다.

위험을 짚는 대목은 구체적이다. 투약이나 인슐린 처치처럼 잘못되면 곧바로 피해가 생기는 업무에서, 설계·자금·운영은 다른 사람이 하는데 감사와 문책은 최저임금을 받는 최전선 종사자에게 돌아온다. 시골 지역에서 신호가 잡히지 않는 단말기나 정전 같은 상황도 그대로 현장 부담이 된다. 연구자 패널은 AI 기록 도구가 만든 돌봄 계획에 환각과 편향이 섞였을 때 최종 책임이 누구에게 있는지가 가장 우려된다고 덧붙였다.

신뢰를 만들 조건으로는 산업 전반이 받아들이는 인증·감사 기준, 그리고 '읽지 않은 약관' 문제를 넘어서는 실질적 동의가 제시됐다. 소비자용 기기를 가족이 직접 사서 쓰는 흐름이 빨라지면서 데이터가 어디로 가는지 모르는 상태가 늘고 있다는 지적, 의약품 부작용 보고 제도처럼 AI 오류와 환각을 등록해 추적하자는 청중 제안, 그리고 억양과 방언을 잘못 알아들은 기록이 개인 파일에 남을 위험까지 논의가 이어졌다.

주요 인사이트

• 패널이 그리는 좋은 AI 도입은 '기술로 무엇을 할 수 있나'가 아니라 '우리가 합의한 좋은 돌봄이 무엇인가'에서 출발한다. 한 패널은 기술이 못을 찾아다니는 망치가 되기 쉽다고 표현했다.
• AI 도입 효과를 '절감된 인시(person-hour)'로 보고하는 관행에는 결과물을 검토하고 수정하는 노동이 빠져 있으며, 이 보이지 않는 노동을 계산에 넣지 않는 것이 결국 기술이 버려지는 이유라는 지적이 나왔다.
• 정신건강 지원에서 챗봇은 상담이 닫힌 시간에 물어볼 상대가 되어 주지만, 위기 상황에서는 이용자가 입력한 부정적·침습적 생각을 그대로 되비추는 반향실이 될 수 있다는 당사자 단체의 우려가 인용됐다.
• 비용 절감 논리로 방문 횟수를 줄이고 투약을 자동 디스펜서와 원격 모니터링으로 대체하면, 돌봄이 사회적 필요를 뺀 거래로 축소된다는 경고가 나왔다.
• AI가 여러 나라 억양과 방언을 제대로 알아듣지 못해 발언과 반대되는 내용이 개인 기록에 남을 수 있다는 문제 제기는, 음성 기반 돌봄 기록 도입 시 다국어·다방언 검증이 선택이 아니라 전제 조건임을 보여준다.

자주 묻는 질문

관련 AI 소식