AI라는 개념에 휘둘리지 않으려면: 언어와 의미, 그리고 우리가 지켜야 할 행위주체성

핵심 메시지

• 개념의 '의미'에는 구성 조건을 가리키는 내포, 맥락에서 가리키는 대상인 외연, 그리고 분위기처럼 따라붙는 함축의 세 종류가 있다.
• 'AI'는 우리가 합의할 명확한 기준이 어딘가 있다고 믿게 만드는 모호한 개념이지만, 그런 기준은 실제로 존재하지 않을 수 있다.
• LLM은 인터넷에 사람들이 쓴 텍스트의 구조를 압축해 담은 표현으로, 구문·유추·상식 같은 구조를 학습한다.
• 개념에는 행위주체성이 없고 우리에게 있다. 언어와 의미에 대한 주체성을 지키면 기술에 대한 결정권도 지킬 수 있다.

쉽게 이해하기

알레인 수어는 기억에 남는 대화를 떠올려 보라는 질문으로 시작한다. 우리가 쓰고 만드는 언어는 우리 자신과 주변 세계를 빚어내며, 어떤 개념을 마주하면 우리는 특정한 행동을 하도록 떠밀린다. 그는 개념이 우리에게 하게 만드는 그 무언가를 '의미'라고 부르고, 의미를 세 가지로 나눈다.

첫째는 내포로, 어떤 것이 그 개념에 속하는지 가르는 구성 조건이다. 둘째는 외연으로, 그 말이 맥락에서 실제로 가리키는 대상이다. 셋째는 함축으로, 개념이 놓인 맥락에 더하는 분위기다. 예컨대 '강의'의 내포에 '권위'가 들어 있진 않지만, 누군가 학회에서 강의를 한다고 하면 그 사람에게 그럴 권위가 있다고 추론하게 된다. 그는 '사물'이나 '고귀함'처럼 내포가 비어 있거나 자기참조적인 모호한 개념이 오히려 유용하다고 말한다.

그가 집중하는 모호한 개념은 바로 'AI'다. 'AI 의식은 불가피하다' 같은 말을 들을 때 마음에 떠오르는 느낌이 그 개념의 함축이다. 'AI'는 우리가 아직 모르지만 모두가 합의할 수 있는 어떤 기준이 존재한다고 믿게 만드는데, 강연자는 그런 기준을 실제로 가질 수 없다고 본다. 약속을 지킬 수 없는 개념에 휘둘리면, 우리는 충분히 이해하지도 못한 무언가에 행위주체성을 넘겨주는 길로 끌려간다고 경고한다.

오늘날 'AI'의 외연, 즉 실제 가리키는 대상은 LLM이다. 그는 LLM이 인터넷에 사람들이 쓴 텍스트로 학습되며, 그 텍스트는 구문·유추·상식 같은 구조적 과정을 활용해 만들어졌다고 설명한다. 신경망은 학습 데이터의 압축 표현이고, 매개변수보다 정보가 훨씬 많기 때문에 가장 경제적인 방법은 데이터를 만들어 낸 구조 자체를 담는 것이다. 그래서 모델이 유추나 구문, 상식을 배우는 것은 놀랍지 않다. 여기에 인스트럭션 튜닝과 인간 피드백 기반 강화학습(RLHF)을 더해 '도움이 되는 비서'처럼 응답하도록 만든다.

결국 LLM은 언어 사용의 구조를 녹여 넣은 계산적 산물이다. 하지만 텍스트의 압축본이기에 사람의 말과 구분하기 어렵고, 우리는 거기에 의도를 읽어 넣으려는 충동에 이끌린다. 수어는 '지능'이나 'AI'라는 개념이 스스로를 정당화하지만 개념 자체에는 행위주체성이 없으며 우리에게 있다고 강조한다. 어느 날 모두가 'AI가 도래했다'고 한들 '그래서 뭐?'라고 답할 주체성이 우리에게 있고, 기술을 인간의 가치를 중심으로 설계하라고 요구할 수 있다는 것이다.

주요 인사이트

• '지능', '의식', '추론'처럼 만족스러운 정의가 없는 모호한 개념도 유용하지만, 'AI'처럼 합의 가능한 기준이 있다고 믿게 만드는 개념은 우리를 특정 방향으로 끌고 갈 위험이 있다.
• LLM이 유추나 상식을 배우는 것은 신비가 아니라, 매개변수보다 많은 정보를 담으려면 데이터를 만든 구조 자체를 압축하는 것이 가장 경제적이기 때문이다.
• 벤치마크를 통과하면 AI라고 인정하려는 경험주의자와 확률 모델은 결코 AI가 될 수 없다는 부정론자는 입장은 달라도 모두 'AI' 개념에 휘둘린다는 공통점이 있다.
• 기술에 대한 무력감과 불가피성의 틀을 거부하는 것 자체가 행위주체성의 행사이며, 언어에 대한 주체성이 곧 의미와 우리 자신에 대한 주체성으로 이어진다.

자주 묻는 질문

관련 AI 소식