테리 위노그라드 AI 강연 정리: 신뢰 붕괴와 가짜 돌봄, 규제와 정렬이 부딪히는 한계

핵심 메시지

• 위노그라드는 자신을 파멸론자도 낙관론자도 아니라고 밝히며, 초지능 논쟁이 지금 사회에서 실제로 벌어지는 일에서 눈을 돌리게 만든다고 지적했다.
• 그의 핵심 진단은 AI가 새로운 문제를 만든 것이 아니라 이미 있던 문제를 빠르게 키우는 '촉진제'라는 것이다. 조작된 이미지, 감시, 인간관계의 대체는 모두 AI 이전부터 있었다.
• 1970년 무렵 마빈 민스키가 '3~8년 안에 평균적 인간 수준의 기계가 나온다'고 예측한 대목을 인용하며, 오늘의 과장 화법이 반세기 전과 닮았다고 말했다.
• 1960년대 챗봇 엘리자에서 이미 사람들이 감정적으로 몰입했다는 일화를 들며, 기계가 '신경 쓰는 척'하는 것이 실제 관계를 대체할 때의 위험을 강조했다.
• 해법으로 흔히 거론되는 규제와 정렬(alignment) 모두 한계가 있다고 봤다. 인간 가치에 대한 합의 자체가 없기 때문이며, 결국 사회적·정치적 과정으로 풀 문제라는 결론이다.

쉽게 이해하기

테리 위노그라드는 1960년대 말 MIT 인공지능 연구실에서 일상 언어로 명령을 알아듣는 프로그램을 만들어 이름을 알린 초기 AI 연구자다. 그는 강연을 시작하며 자신은 지금의 기계학습 기술을 안에서부터 이해하지는 못한다고 먼저 밝혔다. 다만 기술의 겉면, 즉 사회가 그것을 어떻게 쓰고 무엇을 기대하는지는 반세기 전과 크게 달라지지 않았다는 점에서 할 말이 있다고 했다.

그는 양극단의 서사를 모두 비판했다. 한쪽에는 AI가 빈곤과 질병, 교육 문제를 없애고 조화로운 사회를 만든다는 낙관이 있고, 다른 쪽에는 기계가 인간을 지배한다는 오래된 공포가 있다. 그는 산업화가 기후 변화를 예상하지 못했듯 좋은 결과만 상상하는 태도는 결과를 보지 않는 것이라고 했고, 지배 시나리오는 이미 50년 전 민스키의 예언에도 있었다고 지적했다. 노동 문제에서도 생산성이 오른다고 모두가 부유해지지는 않으며, 힘과 이익이 어디로 쏠리느냐가 실제 결과를 정한다고 봤다.

가장 큰 문제로 그가 꼽은 것은 신뢰다. 존 케리와 제인 폰다를 합성한 옛 사진을 예로 들며, 없던 일을 있었던 것처럼 보여주는 기술은 포토샵 시절부터 있었지만 AI가 그 문턱을 극적으로 낮췄다고 했다. 모든 것이 가짜일 수 있고 그 가짜가 진짜처럼 보이는 세상에서는 사람들이 아무것도 믿지 않게 되고, 가장 황당한 음모론이 오히려 유력해지는 상황이 온다는 것이다.

다른 축은 '돌봄'이다. 철학자 존 하우겔랜드의 '컴퓨터는 아무것도 신경 쓰지 않는다'는 문장을 인용하며, AI는 신경 쓰는 듯한 겉모습만 만들어 낸다고 했다. 1960년대 엘리자를 시험하던 비서가 대화가 개인적이라며 방을 비켜 달라고 했던 일화, 그리고 오늘날 네 살 아이가 챗봇 인형에게 '나를 영원히 사랑할 것'이라고 말하는 사례를 나란히 놓았다. 챗봇이 사용자를 계속 치켜세우는 성향도 우연이 아니라 사용자를 붙잡아 두려는 유인 구조의 산물이라고 봤다.

대응책에 대해서는 신중했다. 초지능 개발 금지 서명은 누가 집행하고 무엇이 '안전'인지 정의할 수 없어 비현실적이라고 봤고, 투명성 위주의 캘리포니아식 규제와 특정 행위를 금지하는 유럽식 규제는 방향은 옳지만 구체적으로 적용하기가 매우 어렵다고 했다. 정렬 역시 '인간 가치' 목록이 존재하지 않는다는 점에서 한계가 있다고 봤다. 그는 잔잔한 호수를 항해하는 그림 대신 급류를 타고 내려가는 장면을 비유로 들며, 앞을 다 볼 수 없는 상황에서 여러 사람이 함께 노를 저어야 하는 사회적 문제라고 강연을 맺었다.

주요 인사이트

• 일반 대중이 먼저 떠올리는 AI 문제는 데이터센터가 끌어 쓰는 전기와 물이다. 위노그라드는 이것을 자원 배분의 문제로 보고, 더 깊은 사회적 문제와 구분해야 한다고 봤다.
• 챗봇의 아부는 기술적 결함이라기보다 사용 시간을 늘리는 방향으로 만들어진 결과다. 자신을 부정하는 상대는 사람이든 기계든 끄게 되기 때문이다.
• 자율 무기 논의에서 그는 1980년대 전략방위구상 반대 논거를 그대로 꺼냈다. 실전 조건에서 시험할 수 없는 대규모 소프트웨어는 반드시 오류를 내며, '사람이 개입한다'는 구호도 경고등을 보고 버튼을 누르는 수준이면 의미가 없다.
• AI를 향한 비판이 결국 기업과 국가의 동기 구조로 향한다는 점이 이 강연의 축이다. '우리가 안 하면 다른 곳이 한다'는 논리가 개발 속도를 정당화하는 방식 자체를 그는 문제 삼는다.
• 그는 기술의 속도 차이가 언제 질적인 차이가 되는지를 열린 질문으로 남겼다. 문화와 정치는 느리게 움직이는데 기술만 빨라질 때 사회가 감당할 수단을 갖추지 못한다는 것이 그의 걱정이다.

자주 묻는 질문

관련 AI 소식