AI 위험과 인간의 자리: 작가 애나 골즈워디가 말하는 주체성과 의미, 그리고 마찰

핵심 메시지

• 저자는 AI가 제기하는 문제를 저작권이나 자원 소모에 국한하지 않고, 인간이 무엇인지 다시 묻게 만드는 사안으로 본다.
• AI를 사고의 대체물이 아니라 사고의 발판으로 쓸 때는 더 나은 생각으로 올라가는 계단이 될 수 있다는 관찰에서 글이 출발했다.
• 실존적 위험 논의에서 정렬되지 않은 인공지능이 기후 변화나 핵, 팬데믹보다 위에 놓였다는 점이 저자를 움직였다.
• 스마트폰과 소셜미디어에 대응이 늦었던 전례는 이번에는 훨씬 빠르게, 그리고 여러 분야가 함께 논의해야 한다는 근거가 된다.
• 가장 걱정스러운 지점은 개인이 스스로 판단하는 능력을 자발적으로 넘겨주는 일이며, 대응책으로 의도적인 '마찰'이 제안된다.

쉽게 이해하기

이 영상은 AI 안전을 주제로 한 포럼의 대담으로, 호주 작가이자 연주자인 애나 골즈워디가 자신의 계간 에세이 『The God We Made』를 놓고 진행자와 이야기를 나눈다. 저자가 직접 읽은 마지막 대목은 문제가 표절이나 저작권, 자원 고갈에 그치지 않고 사실상 모든 것이라고 말한다. 지금 집단적으로 대응하지 않으면 사고 자체를 실리콘밸리가 대신하게 되며, 일과 의미, 사회 정의와 인류의 생존 문제를 함께 붙들어야 한다는 것이다.

글을 쓰게 된 계기는 거창한 취재가 아니라 저녁 식탁이었다. 두 아들과 벌인 논쟁, 특히 아이들이 챗봇과 주고받는 문답 방식을 지켜보면서 저자는 이 기술을 간접적으로 접하게 됐다. 인지 능력을 기술에 내주는 위험을 충분히 의식하면서도, 사고를 대신하게 하는 대신 사고를 떠받치는 용도로 쓸 때는 더 나은 생각으로 이어지는 계단이 될 수 있다는 반대편 측면도 직접 목격했다고 말한다.

위험에 대한 감각은 팬데믹 시기에 읽은 실존적 위험 연구서에서 왔다. 저자가 인용한 바에 따르면 자연적 요인으로 인한 실존적 사건 확률은 한 세기에 1만분의 1 수준이지만, 이번 세기에는 여섯 번에 한 번, 이른바 러시안룰렛 수준으로 올라간다. 그리고 그 목록에서 정렬되지 않은 인공지능이 기후 변화나 핵, 팬데믹보다 위에 놓였다는 점이 계속 남았다고 한다. 예술가이자 작가로서 할 수 있는 일은 공론장에 이 대화를 끌어들이는 것이었다.

대화는 초지능의 폭주보다 이미 벌어진 일로 옮겨간다. 저자는 소셜미디어와 스마트폰에 이미 스스로를 상당 부분 내주었다고 쓴다. 아이들에게 화면을 쥐여준 시점과 정신 건강 영향이 인식된 시점, 정책이 움직인 시점 사이의 긴 시차를 떠올리면 낙관하기 어렵지만, 반대로 이번에는 더 빨리 움직여야 한다는 교훈으로 삼을 수 있다. 그러려면 철학과 사회학, 정치학의 관점이 함께 들어와야 하고, 논의 속도 자체가 빨라져야 한다는 것이 저자의 주문이다.

개인 차원에서 저자가 가장 걱정하는 것은 판단을 넘기는 습관이다. 한 인터뷰에서 오픈AI 대표가 실존적 위험이나 일자리 문제와 나란히 '결정을 내리는 능력의 포기'를 우려했다는 일화를 소개하며, 연인이나 집주인에게 보낼 말을 대신 써 달라고 하는 수준을 넘어 국가 지도자가 AI를 거치지 않고는 결정을 못 하게 되는 상황을 예로 든다. 지도 읽기와 암산을 이미 넘겨준 전례를 들며, 산업혁명이 육체노동을 덜어낸 뒤 웨이트 트레이닝이 등장했듯 이제는 의도적으로 어려움과 마찰을 찾아 나서야 한다고 말한다.

주요 인사이트

• 저자는 AI를 '우리가 만든 가장 인간답지 않은 것이 우리 자신을 가장 깊이 들여다보게 만든다'는 역설로 요약한다. 기술 논쟁이 결국 인간론으로 되돌아온다는 뜻이다.
• 기계에 넘긴 능력이 정말 더 고상한 일을 위한 여유로 바뀌었는지에 대해 저자는 회의적이다. 계산기가 암산을 대신한 뒤 그 여유가 더 나은 사고로 이어졌다는 증거가 뚜렷하지 않다는 것이다.
• AGI 이후의 삶을 가늠할 때 저자는 이미 노동에서 벗어난 두 집단, 즉 부유층과 은퇴자를 참고점으로 든다. 좋은 은퇴의 조건이 의미 있는 활동과 관계라는 점은 비교적 분명하다는 것이다.
• 관계마저 AI에 위탁하는 것이 또 다른 위험으로 지목된다. 저자는 인간의 연결이 몸을 가진 존재로서, 시간 속에서 이루어지는 과정이라는 점에 의미가 있다고 말한다.
• 예술의 가치가 오히려 커졌다는 개인적 소회도 이어진다. 전날 밤 성악가와 함께한 슈베르트 연주회를 예로 들며, 실시간으로 함께 무언가를 만드는 활동이 지금 더 강렬한 가치를 갖는다고 말한다.

자주 묻는 질문

관련 AI 소식