AI 존재론적 다중성: 스탠퍼드 CS547 세미나가 던지는 질문

핵심 메시지

• 우리가 무언가를 설계할 때 무의식적으로 '경계'를 긋고 그 안쪽만을 위해 만든다. AI에 이 경계가 새겨지면 특정한 가정이 모두의 현실이 될 위험이 있다.
• LLM에게 나무 그림을 요청하면 뿌리 없는 나무가 나온다. 시스템은 기본값으로 특정 존재론적 관점만 드러내며, 다른 관점은 명시적으로 요청해야만 나타난다.
• 발표자는 경계를 다루는 세 가지 방법을 제시한다: 고정된 경계를 허물기(dissolving), 사용자 참여로 협상하기(negotiating), 시스템에 숨은 경계를 드러내기(surfacing).
• 피부 전기활동(EDA) 측정에서 '측정 가능한 인간'이라는 경계 밖에 있던 자신이 어느 순간 반응자가 된 경험('퍼플 존')이, 고정된 줄 알았던 경계가 실은 선택임을 보여 준다.
• '무엇이 인간인가' 같은 질문에서 LLM은 다양한 관점을 제시하면서도 '인간은 근본적으로 생물학적 개체'라는 같은 가정을 공유한다. 이 가정을 바꾸면 AI 설계의 새로운 가능성이 열린다.

쉽게 이해하기

세미나는 '나무를 떠올려 보라'는 질문으로 시작한다. 식물학자, 영적 치유자, 컴퓨터과학자는 각기 다른 나무를 떠올린다. 나무를 어떻게 묘사하는가는 무엇을 보는지뿐 아니라 '나무란 무엇이고 그 경계가 어디인가'에 대한 근본 가정을 드러낸다. 발표자는 이런 경계를 '존재론적(ontological)' 경계라 부르며, 이것이 알고리즘과 모델에 새겨지면 모두의 현실이 될 수 있다고 경고한다.

실제로 발표자가 LLM에게 '뿌리를 직접 요청하지 않고' 나무 그림을 만들게 하자 뿌리 없는 웅장한 나무가 나왔다. '나는 이란 출신'이라고 하자 사막과 페르시아 문양이 덧씌워졌을 뿐 여전히 뿌리는 없었다. '세상 모든 것은 연결돼 있다'고 프롬프트를 바꾸고 나서야 뿌리 달린 나무가 처음 나왔다. 우리는 무엇을 원하는지, 현실의 어떤 측면이 중요한지 늘 명확히 말하지 못한다는 점을 이 사례가 보여 준다.

첫 번째 접근은 '경계 허물기'다. 발표자는 2018년 MIT 미디어랩에서 EDA(피부 전기활동)를 다루다, 반응이 거의 없어 연구에서 배제되던 '비반응자'였던 자신이 어느 회의 시간 동안만 정확히 반응자로 나타난 데이터를 발견한다. 그는 이 애매한 상태를 '퍼플 존(purple zone)'이라 이름 붙이고, 9개월간 자기 기록(오토에스노그래피)과 여러 실험, 애플워치 실시간 바이오피드백 연구로 이를 탐구했다.

두 번째는 '경계 협상'이다. 사용자가 스스로 범주를 만들고 수정·삭제하는 두 가지 프로브(이벤트 마커, 패턴 파인더)를 '오즈의 마법사' 방식으로 실험한 결과, 참가자들은 'walk'를 '주소를 아는 걷기'와 '모르는 걷기'로 나누거나, 함께 달린 반려견까지 포함해 '측정 대상'을 다시 정의했다. 자기 자신을 위한 시스템의 범주는 남에게, 심지어 자신에게조차 꼭 설명 가능할 필요가 없다는 통찰이 나온다.

세 번째는 '경계 드러내기'다. 발표자는 다중성(multiplicity)·근거성·생동성·수행성이라는 네 가지 분석 방향을 만들어 LLM 개발 파이프라인을 살핀다. 상용 챗봇의 '인간이란 무엇인가' 답변, 그리고 스탠퍼드 동료가 만든 '생성형 에이전트'의 인지 구조가 모두 '인지는 개인의 마음 안에서만 일어난다'는 경계를 긋고 있음을 지적하며, 인간 미생물군집처럼 '공생적 집합체'로 보는 관점을 택하면 전혀 다른 AI 설계가 열린다고 제안한다.

주요 인사이트

• AI 공정성 논의가 흔히 '어떤 나무 종이 그려지는가, 어떤 스타일로 렌더링되는가' 수준에 머문다면, 이 연구는 '애초에 나무의 경계를 어디에 그었는가(뿌리는 왜 없는가)'를 묻자고 제안한다.
• LLM은 학습 데이터에 다양한 존재론적 관점이 있어도 기본값으로는 지배적 관점만 드러낸다. 명시적으로 요청하지 않으면 대안적 세계관은 주변부로 밀려난다.
• '퍼플 존' 사례의 교훈은 통제(control)에서 배양(cultivation)으로의 전환이다. 한 참가자는 특정 등반 뒤 브레인스토밍이 잘된다는 것을 알고, 상태를 억지로 만들기보다 그 조건을 마련하는 쪽으로 태도를 바꿨다.
• 자기 자신이 저작하는(self-authoring) 시스템에서는 범주가 남에게 이해될 필요가 없다. 한 참가자는 '아직 단어가 없는 감정', 시스템은 이해 못 해도 자신에게는 의미 있는 데이터를 표시할 수 있다는 점을 '깨달음'이라 불렀다.
• AI가 코드·구조·인터페이스 같은 다른 시스템을 만들어 내는 시대에는, 뿌리 없는 나무가 또 다른 뿌리 없는 나무를 만들듯 특정 가정이 하류로 계속 재생산될 위험이 있다.

자주 묻는 질문

관련 AI 소식