시빅 AI란 무엇인가: AI는 돌볼 수 있는가와 누가 결정하는가에 대한 옥스퍼드 콘퍼런스 논의

핵심 메시지

• AI가 실제로 돌볼 수 있는지, 공감과 타인에 대한 도덕적 고려 능력을 갖는지를 두고 개발자들 사이에서도 논쟁이 있다.
• 현재 시스템은 부모의 희생과 자녀의 희생처럼 관계에 뿌리를 둔 언어의 차이를 구분하지 못한다.
• AI가 돌봄의 주체가 되기는 어렵지만, 사람의 돌봄과 관계를 뒷받침하도록 설계할 수는 있다.
• 민주적 참여 지원과 의료 현장의 돌봄 데이터 활용은 이미 나온 긍정적 사례로 언급된다.
• 시장·부·권력의 집중을 다루지 않으면 관계와 연대를 뒷받침하는 AI를 구현하는 데 근본적인 한계가 남는다.

쉽게 이해하기

옥스퍼드 대학 AI 윤리연구소가 공개한 짧은 인터뷰에서 노에시스 컬래버러티브의 창립자이자 대표인 론 아이비는 시빅 AI 콘퍼런스가 하루 종일 씨름한 질문을 다시 꺼낸다. AI가 우리 공동체를 어떻게 돌봐야 하는가, 그리고 그것을 누가 결정하는가라는 질문이다. 그는 이 질문의 전제부터 다시 따져봐야 한다고 말한다. 애초에 AI가 돌볼 수 있는가라는 물음이다.

그가 만나 본 개발자들 사이에서도 AI가 실제로 돌보는지, 공감할 능력이 있는지, 타인을 도덕적으로 고려하고 주의를 기울이며 다른 사람의 감정과 인식을 이해할 수 있는지를 두고 실질적인 논쟁이 있다고 한다. 그는 같은 날 오전 논의에서 나온 사례를 덧붙인다. 현재 시스템은 부모로서의 희생과 자녀의 희생을 구분하지 못한다는 것이다. 매일 관계 속에서 무언가를 포기하며 사는 부모의 입장에서, 그런 관계적 언어를 시스템이 이해하지 못한다는 점이 분명하게 다가왔다는 이야기다.

그래서 AI가 돌볼 수 있느냐는 물음에 그는 그렇지 않다고 답한다. 다만 곧바로 다른 질문을 세운다. AI 시스템이 돌봄을 지원하고 사람 사이의 관계를 뒷받침하도록 설계될 수는 있지 않은가. 그는 콘퍼런스에서 나온 두 가지 사례를 든다. 하나는 민주주의 영역에서 AI를 참여와 관여를 돕는 도구로 쓰고, 합성 미디어 관련 법안에 대한 이해와 정당성을 높이는 데 활용한 사례다. 다른 하나는 의료에서 환자 관련 데이터를 확보해 돌봄 제공자가 더 나은 돌봄을 하도록 도운 사례다.

'누가 결정하는가'라는 두 번째 질문에 대해 그는 시스템이 어떻게 만들어지고 그 뒤에 어떤 힘이 작동하는지로 돌아간다. 권력을 분산하고 지금처럼 집중된 시장 구조를 흩을 수 있는 문화적 틀, 윤리적 틀, 정책적 틀이 갖춰져 있는지 묻는다. 시장 집중과 부의 집중, 권력의 집중을 근본적으로 다루지 않는 한, 가까운 관계는 물론이고 연대와 신뢰라는 더 넓은 관계로 확장되는 국면에서도 AI 시스템을 제대로 구현하기 어렵다는 진단이다.

그럼에도 그는 희망의 근거를 남긴다. 지배적인 시스템이 한 방향으로 계속 나아가는 와중에도 대안적 생태계를 만들 기회는 있다는 것이다. 자금 제공자와 투자자, 발명가와 연구자, 정책 전문가와 지역 활동가, 공동체 조직을 함께 떠올려야 한다고 그는 말한다. 지역 단위에서 공동체가 스스로 통제권을 쥐고 자기들의 모델을 만드는 사례를 보아 왔다는 점을 근거로, 그런 시도를 북돋우고 자원을 연결하며 세계 각지에서 좋은 일을 하는 이들을 잇는 일이 관건이라고 정리한다.

주요 인사이트

• 'AI가 돌볼 수 있는가'와 'AI가 돌봄을 도울 수 있는가'는 다른 질문이다. 앞의 질문에 아니라고 답하면서도 뒤의 질문에서 설계 과제를 찾는 태도가 이 인터뷰의 뼈대다.
• 부모의 희생과 자녀의 희생을 구분하지 못한다는 지적은 관계적 맥락이 벤치마크로 잘 잡히지 않는 능력임을 보여준다. 성능 지표가 좋아도 돌봄 영역에서 곧바로 신뢰로 이어지지는 않는다.
• 논의의 무게중심이 모델 성능이 아니라 소유와 권력 구조에 놓여 있다는 점이 특징이다. 시장 집중을 다루지 않으면 윤리 원칙만으로는 한계가 있다는 주장이다.
• 지역 공동체가 직접 모델을 만드는 흐름은 대안 생태계의 실마리로 제시된다. 다만 이런 시도는 자금과 연결망이 뒷받침될 때에만 지속될 수 있다는 조건이 함께 붙는다.

자주 묻는 질문

관련 AI 소식