AI 해석 가능성의 한계와 일자리 충격, 스티브 저벳슨이 스탠퍼드 대담에서 던진 질문

핵심 메시지

• 저벳슨은 지금 만들어지는 시스템을 만든 사람들조차 이해하지 못한다는 점을 AI 논의의 출발점으로 삼는다.
• 그는 안전·통제·해석 가능성을 '갖고 싶다고 상상하는 것'일 뿐 실제로는 갖지 못할 것이라고 단언한다.
• AI를 십대에 빗대, 통제할 수도 안전을 증명할 수도 작동 원리를 이해할 수도 없으며 다음 세대를 더 낫게 만드는 것이 최선이라고 말한다.
• 규칙을 억지로 맞추게 하는 방식은 추론 능력 자체를 손상시킬 수 있다고 본다.
• 정규직 노동자의 약 19%가 운전으로 생계를 잇는데, 그는 이 일자리가 사실상 전부 사라질 것이라고 전망한다.

쉽게 이해하기

스탠퍼드 디지털 이코노미 랩이 공개한 대담에서 오랜 기간 AI 분야에 투자해 온 스티브 저벳슨은 지금 벌어지는 변화의 성격부터 규정했다. 지능과 노동처럼 모든 경제 활동의 근간을 이루는 능력이 전례 없는 방식으로 자동화되고 있고, 그 속도가 국가와 대륙의 운명을 갈라놓을 수 있다는 것이다.

그는 칩이 디지털이냐 아날로그냐, 대형 데이터센터냐 온디바이스 엣지 AI냐 같은 전술적 논쟁과 별개로, 어떤 기술이 이기든 관통하는 큰 관찰이 있다고 말했다. 첫 번째가 '아무도 자기가 만든 것을 이해하지 못한다'는 사실이다. 진화 알고리즘부터 최신 트랜스포머까지, 기계 지능을 만드는 모든 접근이 그랬다는 것이다.

그래서 그는 안전·통제·해석 가능성을 우리가 원한다고 상상할 뿐 결코 손에 넣지 못할 것이라고 봤다. AI라는 단어가 나올 때마다 '십대'로 바꿔 읽어 보라는 것이 그의 제안인데, 십대는 통제되지 않고 안전을 증명할 수도 작동 방식을 이해할 수도 없기 때문이다. 할 수 있는 최선은 다음번에 더 나은 존재를 만드는 일이며, 학습의 초점은 결과물이 아니라 과정에 있다는 설명이다.

통제를 강제하려는 시도에 대한 평가는 더 날카롭다. 그는 RLHF처럼 가드레일 안에 모델을 밀어 넣는 방식을 사실상 '정신 통제'에 빗대며 그렇게 하면 지능이 훼손된다고 말했다. 만든 사람의 규칙을 임의로 다 맞추려 들면 세상에 대해 추론하는 능력 자체를 잃는다는 것이다.

노동 전망은 구체적이다. 그는 이 시스템을 모든 언어를 배울 가능성을 안고 태어나는 아기에 비유하며 결국 사람이 하는 어떤 일이든 감당하는 범용 자산이 된다고 봤고, 정규직 노동자 가운데 19%가량이 운전으로 먹고사는데 향후 20년 안에 사람이 운전할 이유가 사라져 그 일자리가 100% 없어진다고 말했다. 다만 이런 질문을 붙들 주체가 마땅치 않다는 것이 그의 걱정으로, 단기 정치인은 생각하지 않고 기술 연구자 대다수는 자기 기술과 경쟁의 루프에 갇혀 있다고 지적했다. 그가 참여한 '디지털리스트 페이퍼스'처럼 여러 분야의 지성이 사회와 경제의 변화를 함께 들여다보는 작업이 일찍, 자주 필요하다는 것이 결론이다.

주요 인사이트

• '이해할 수 없는 시스템'이라는 전제를 받아들이면, 규제 논의의 초점은 내부 검증이 아니라 배치와 책임의 설계로 옮겨간다.
• 십대 비유는 통제 불가능성을 정당화하는 말이 아니라, 통제 대신 양육 과정을 개선하라는 요구로 읽는 편이 유용하다.
• 가드레일이 추론 능력을 깎는다는 주장은 안전 조치와 성능 사이의 상충 관계를 정면으로 제기한다. 다만 이는 발표자 개인의 강한 견해이며 업계 합의는 아니다.
• 운전 직종 소멸 전망은 재교육의 방향이라는 더 어려운 질문으로 이어진다. 인간이 무엇에도 최고가 아닌 세상에서 어떤 기술로 옮겨가야 하는지가 그가 던진 물음이다.
• 낙관과 비관의 갈림길을 그는 최종 상태가 아니라 '전환기'에서 찾는다. 풍요로운 사회가 가능하더라도 거기까지 가는 길에 정책과 규제의 일관된 그림이 없다는 지적이다.

자주 묻는 질문

관련 AI 소식