무스타파 술레이만 TED 강연 — AI는 도구가 아니라 '디지털 종'이다

핵심 메시지

• 술레이만은 AI를 단순한 도구가 아니라 '새로운 디지털 종'이라는 은유로 이해하자고 제안한다.
• AI는 18개월 만에 10억 명 이상이 쓰는 기술이 됐고, 창의성·공감처럼 불가능하다던 영역을 잇따라 넘어섰다.
• 앞으로의 AI는 높은 IQ와 EQ를 넘어, 실제로 일을 해내는 능력인 AQ(actions quotient)를 갖추게 된다.
• 도구라는 틀로는 AI의 자율성·창발성을 담지 못하므로, 인간의 주체성을 중심에 둔 새로운 은유가 필요하다.
• 자기복제나 재귀적 자기개선 같은 위험은 우연히 생기지 않으며, 엔지니어가 안전을 설계 단계에서 의도적으로 배제·통제해야 한다.

쉽게 이해하기

술레이만은 거의 15년간 AI를 연구해 왔다고 밝히며, 2010년만 해도 'AGI(범용인공지능)'를 입에 올리면 공상과학 취급을 받던 시절을 회고한다. 이후 AI가 이미지 이해, 번역, 음성 전사, 바둑·체스, 질병 진단까지 인간을 잇따라 능가하면서 사람들이 그 영향력에 눈뜨기 시작했다.

강연의 출발점은 여섯 살 조카 캐스피언의 질문이다. 자신이 만든 AI '파이(Pi)'와 대화하던 조카가 'AI가 뭐예요?'라고 묻자 술레이만은 답이 막혔다. '인터넷의 글을 거의 다 읽고 무엇이든 대화할 수 있는 영리한 소프트웨어'라고 하자 조카는 '그럼 사람 같은 거네요?'라고 되물었고, 그는 자신이 평소 내놓던 정책 세미나식 답변이 정작 본질을 비껴간다는 점을 깨닫는다.

그는 AI를 '새로운 디지털 종'으로 보자고 제안한다. 문자 그대로의 생물은 아니지만, AI는 우리 언어로 소통하고, 막대한 정보를 소화하며, 기억·성격·창의성을 갖고, 어느 정도 추론과 계획까지 한다. 따라서 AI를 수학이나 코드로만 설명하는 것은 인간을 탄소와 물로만 설명하는 것과 같다고 말한다.

기술의 파도가 점점 빨라지는 맥락도 제시한다. 18개월 만에 10억 명 넘게 대형 언어 모델을 썼고, 불가능하다던 창의성과 공감의 영역까지 AI가 넘어섰다. 그는 앞으로 모든 사람·조직·사물이 저마다의 개인 AI를 갖게 되며, 이 AI들이 거의 완벽한 IQ와 뛰어난 EQ에 더해, 실제로 일을 해내는 능력인 AQ를 갖출 때 진짜 변화가 시작된다고 본다.

마지막으로 그는 안전을 최우선에 둬야 한다고 강조한다. 크리스 앤더슨과의 대담에서 술레이만은 가장 큰 위험으로 '비관 회피의 함정'을 꼽고, 자율성과 재귀적 자기개선 같은 능력에 주의하라고 말한다. 다만 자기복제 같은 위험은 우연히 창발하지 않으며 엔지니어가 의도적으로 설계해 넣어야만 가능하다고 선을 긋고, 그래서 안전을 처음부터 설계에 반영하는 것이 중요하다고 말한다. 그는 결국 'AI는 우리 자신'이며, 인류의 공감·친절·호기심·창의성을 담아내는 것이 21세기의 가장 큰 과제라고 끝맺는다.

주요 인사이트

• '도구'라는 익숙한 틀은 통제 가능한 대상을 전제하지만, 술레이만은 AI가 도구보다 더 동적이고 창발적이라 그 틀로는 담기 어렵다고 본다. 은유를 바꾸는 일 자체가 위험 통제의 출발점이라는 것이다.
• IQ·EQ에 더해 'AQ(행동 지수)'라는 개념은, AI의 진짜 전환점이 '아는 것'이 아니라 디지털·물리 세계에서 '실제로 해내는 것'에 있음을 짚는다.
• 술레이만은 자기복제·지능 폭발 같은 시나리오가 저절로 생긴다는 주장에는 근거가 없다고 반박하며, 위험은 자연 발생이 아니라 설계 선택의 문제라고 강조한다.
• '데이터와 칩이 21세기의 석유'라는 비유를 그는 거부한다. 자원을 약탈하는 것이 아니라 대륙 자체를 처음부터 짓는 일이므로 더 낫게 설계할 기회가 있다는 것이다.
• 강연의 결론인 'AI는 우리 자신'이라는 문장은, AI를 외부의 위협이 아니라 인류가 만들어 온 모든 것의 반영으로 보고 그 안에 우리의 선한 면을 담아야 한다는 책임으로 이어진다.

자주 묻는 질문

관련 AI 소식