TED 대담: 알고리즘 조작과 데이터 주권, AI가 결코 내려선 안 될 결정과 인간다움

핵심 메시지

• AI 윤리학자 젠 골드벡과 다큐멘터리 감독은 대부분의 사람이 알고리즘에 조종당한 경험이 있다는 데 공감하며 대담을 시작한다.
• 생각·기억·온라인에 공유한 것들은 우리 자신의 것이어야 하며, 데이터가 제3자에게 넘어가 마음대로 쓰이는 현재 구조가 문제의 핵심으로 지목된다.
• AI가 대출 승인을 할 수는 있어도 거절로 기회를 빼앗는 결정은 결코 내려선 안 된다는 원칙이 제시된다.
• 편의는 프라이버시와의 거래이며, '누구를 위한 편의·효율인가'라는 질문을 통해 감시 기술 생태계의 문제가 드러난다.
• 인간은 상실·슬픔·사랑을 몸으로 겪는 존재이며, 도덕·공감·연민 같은 인간 고유의 가치가 기술을 통제하는 근거로 강조된다.

쉽게 이해하기

이 영상은 AI 윤리학자이자 컴퓨터 과학자인 젠 골드벡과 기술이 인간성에 미치는 영향을 다루는 다큐멘터리 감독이자 TED 펠로우가 블록을 쌓아 무너뜨리는 게임형 대담 '아이디어 녹다운'을 진행하는 형식이다. 빠른 질문과 깊은 질문을 오가며 알고리즘과 AI가 일상에 미치는 영향을 짚는다.

두 사람은 알고리즘에 조종당한 경험을 인정하며, 필요 없던 노란 신발 광고가 인터넷 어디든 따라다녔다는 일화로 개인화 추적의 불편함을 이야기한다. 이어 개인 데이터를 재산처럼 다뤄야 한다는 데 동의하며, 우리가 무언가를 제3자와 공유하면 그들이 마음대로 쓸 수 있는 현재 구조가 온라인 디스토피아의 출발점이라고 지적한다.

AI가 결코 내려선 안 될 결정도 논의된다. 발언자는 AI가 사람에게 부정적 영향을 주는 판단을 해서는 안 된다며, 대출 승인은 가능해도 거절해 기회를 빼앗는 결정은 안 된다는 예를 든다. 또 편의를 얻는 대가로 가치 있는 데이터를 넘기는 것은 일종의 '사기'이며, 셀프 계산대나 사람과 연결되지 않는 전화 응대를 들어 '누구를 위한 편의이고 효율인가'를 되묻는다.

인터넷을 프라이버시 희생 없이 쓸 수 있느냐는 물음에는, 유럽의 '잊힐 권리'처럼 어떤 데이터가 수집·매매되는지에 대한 권리와 법이 필요하다는 답이 나온다. 발언자는 데이터 권리가 민주주의 사회의 모든 시민적 권리·자유와 얽혀 있다며, 대규모 감시 없는 열리고 자유로운 인터넷을 지켜야 한다고 말한다.

대담은 인간다움에 대한 질문으로 마무리된다. 컴퓨터가 인간 지식의 총합을 갖더라도 상실·슬픔·사랑·피로를 몸으로 겪지 못하며, 산 정상에서 노을을 본 경험을 결코 알 수 없다고 강조한다. 지능은 있어도 도덕·윤리·공감이 없는 시스템에는 우리가 마음을 불어넣어야 하고, 불완전함이야말로 인간다움이라는 성찰로 끝맺는다.

주요 인사이트

• '조작이 맞을 때 오히려 더 싫다'는 반응은, 정확한 추천일수록 감시받는 느낌이 커진다는 개인화의 역설을 드러낸다.
• AI가 승인은 하되 거절은 못 하게 하자는 원칙은, 자동화된 결정이 사람의 기회를 박탈하는 방향으로 쓰이는 것을 막으려는 구체적 가이드라인이다.
• 데이터 권리를 표현의 자유·프라이버시 같은 시민권과 연결짓는 관점은, 기술 규제를 개인정보 문제를 넘어 민주주의의 문제로 확장한다.
• 거대 기술기업이 정부에 준하는 권력을 갖고도 '블랙박스'로 남아 있다는 지적은, 알고리즘 투명성과 책임성 요구의 근거가 된다.
• 인간의 체화된 경험과 감정을 AI가 대체할 수 없다는 결론은, 기술을 통제하는 주체로서 인간의 도덕적 역할을 재확인한다.

자주 묻는 질문

관련 AI 소식