인공지능은 인간 지능을 넘어설까: 평생 학습의 목표 함수와 AI 일자리 변화 강연 정리

핵심 메시지

• 컴퓨팅 파워와 데이터가 충분하면 기계는 주어진 목표에 도달하는 방법을 비교적 잘 찾아내지만, 인간 수준 지능을 위한 목표 함수 자체가 무엇인지는 아직 아무도 모른다.
• 평생에 걸쳐 끊임없이 학습하려면 목표 함수가 도중에 바뀌어야 하고, 기계가 스스로 목표를 수정할 수 있어야 한다. 강연자는 이것이 머신러닝의 궁극적 질문일 수 있다고 말한다.
• 지금 사람이 기계보다 나은 점은 빠르고 유연하며 안정적이라는 것이고, 기계가 나은 점은 정확·반복·거대한 기억이다. 이 둘이 결합하면 사람이 당해 내기 어렵다.
• '지능'을 어떻게 정의하느냐에 따라 초지능은 이미 도달했다고도 볼 수 있다. 바둑에 한정하면 알파고가 그 예이지만, 바둑만 잘 둔다고 지능이라 부르지는 않는다.
• AI가 일부 직업을 대체하는 것은 사실이지만, 로봇을 가르치는 일이나 AI 컨설턴트처럼 지금은 상상하기 어려운 새 직업이 함께 생길 가능성이 높다.

쉽게 이해하기

강연자는 기계 학습의 현재 위치를 목표 함수라는 개념으로 설명한다. 목표만 잘 정해 주면 지금의 컴퓨팅 파워와 데이터로 그 목표에 도달하는 방법을 찾는 일은 기계가 꽤 잘한다. 문제는 인간 수준의 지능을 만들기 위한 목표 함수가 무엇인지 명확하지 않다는 데 있다. 평생 동안 유지되는 목표 함수라는 것이 존재하는지, 수행 과정에서 목표 자체가 바뀌어야 하는 것은 아닌지, 나아가 기계가 스스로 목표 함수를 수정할 수 있어야 하는 것은 아닌지가 남는다. 그는 2012년 워크숍에서 발표했던 슬라이드를 다시 꺼내며, 이 질문이 머신러닝과 인공지능의 궁극적 질문일 수 있고 어쩌면 답을 얻지 못할 수도 있다고 말한다.

그럼에도 만약 그런 알고리즘이 개발된다면 어떻게 될까. 강연자의 전망은 단호하다. 인간 수준에 도달하는 것이 가장 어려운 문제이고, 일단 거기에 도달하면 인간 수준을 넘어서는 것은 순식간이라는 것이다. 근거는 사람과 기계의 강점이 서로 다르다는 점에 있다. 사람은 복잡한 세상에서 큰 문제 없이 살아갈 만큼 빠르고 유연하며 안정적이다. 반면 기계는 아주 정확하고 반복에 강하며 틀리지 않고, 어마어마한 기억 능력을 갖고 있다. 기계가 사람의 유연함까지 갖추게 되면 사람이 당해 내기 어려운 인공지능으로 바로 갈 수 있다는 설명이다.

특이점 논쟁에 대해서는 판단을 유보한다. 인공지능이 인간 지능을 넘어서는 시기가 온다는 예측에 동의하는 사람도, 동의하지 않는 철학자도 여전히 많다. 강연자가 보기에 이것은 결국 논쟁거리인데, 그 이유는 '지능'을 무엇으로 보느냐에 달려 있기 때문이다. 바둑을 두는 지능이라는 것이 있다면 알파고 시점에 이미 초지능에 도달한 셈이다. 하지만 바둑만 잘 둔다고 해서 그것을 일반적인 의미의 지능이라 부르지는 않는다. 스스로를 끊임없이 개선하는 인공지능이 만들어진다면 그때는 기계가 의식이나 자아, 감성 같은 것을 갖는지 논의를 시작할 수 있겠지만, 지금은 그 단계에 아주 많이 못 미친다고 그는 못 박는다.

일자리 이야기로 넘어가면 진단이 훨씬 구체적이다. 사람의 지능은 특별히 잘하는 것은 없어 보여도 못하는 것도 없는 범용성이 특징인데, 딥러닝을 거치면서 사람이 하던 일 가운데 일부를 기계가 하나씩 대체하기 시작했다. 예로 든 것은 금융 상담이다. 명확한 데이터를 바탕으로 특정 고객의 관심을 반영해 자산 관리 컨설팅을 한다면, 방대한 정보에 동시에 접근할 수 있고 사람의 판단과 경험까지 학습으로 축적해 가는 기계가 어느 순간 웬만한 사람보다 나을 가능성이 높다는 것이다. 그는 앞으로 진로를 정할 때 이런 부분을 함께 고려해야 한다고 조언한다.

동시에 새로운 직업이 생길 가능성도 높다고 본다. 머신러닝으로 지능을 향상시키려면 누군가는 데이터를 넣고, 가르치고, 틀린 것을 교정해 줘야 한다. 그래서 로봇을 코칭하거나 가르치는 일이 새 직업이 될 수 있다. 강연자는 이를 나이 든 세대가 손자를 가르치듯 현재 세대의 인간이 다음 세대의 AI와 로봇을 가르치는 일에 비유한다. 또 AI 기술과 해당 분야의 문제 특성을 모두 아는 AI 컨설턴트는 이미 명확한 새 직업이며 다른 분야보다 보수가 높을 수도 있다고 전망한다. 컴퓨터가 처음 등장했을 때도 같은 우려가 있었지만 결과적으로는 IT·소프트웨어라는 거대한 산업이 생겼고, 한국 같은 나라가 그 기회를 타고 선진국 대열에 오를 수 있었다는 것이 그가 드는 비교 사례다.

다만 낙관만 이야기하지는 않는다. 당장 짧은 시간 안에 기계가 사람의 직업을 대체하는 부분에 대해서는 재교육이나 국가 차원의 사회 안전 조치가 필요하다고 덧붙인다. 미래 예측 자체는 불가능하다고도 말한다. 기술은 어느 지점을 넘으면 폭발적으로 빨라지기도 하고, 예상치 못한 장애에 부딪혀 느려지기도 하기 때문이다. 그래서 힌트를 얻을 곳으로 영화를 든다. 스마트폰 앱 속 AI가 하루 대부분의 시간을 친구이자 비서로 함께하는 「그녀(her)」는 비교적 이른 시기에 가능한 미래로 보고, 알츠하이머를 앓는 노인이 선물받은 로봇과 요리하고 산책하며 동반자가 되어 가는 「로봇 앤 프랭크」 역시 어느 정도는 다가올 수 있는 모습으로 본다.

마지막으로 그는 현재와 미래를 한 장으로 정리한다. 인공지능은 좁은 도메인에서 개별 문제를 푸는 일은 상당히 잘하지만, 사람처럼 넓은 영역을 다루는 범용 지능에서는 아직 수준이 미약하다. 또 하나의 큰 변화는 무대가 옮겨 가고 있다는 점이다. 지금까지 AI는 바둑판의 좌표처럼 닫힌 가상 세계에서 실력을 발휘해 왔지만, 사물인터넷과 5G로 세상이 연결되고 센서 데이터가 쌓이면서 물리적 실세계로 나오고 있다. 그 위에서 인지적 인공지능, 인간 수준의 인공지능으로 나아간다면 그 다음 단계인 초지능의 가능성도 열려 있다는 것이 결론이다. 그러나 인간 수준에 도달하기까지 아직 많은 연구가 필요하며, 그것은 다음 세대 인공지능 연구자들의 몫이라는 말로 강연을 맺는다.

주요 인사이트

• 이 강연의 핵심 프레임은 '무엇을 학습시킬 것인가'가 아니라 '무엇을 목표로 삼게 할 것인가'다. 성능 경쟁 뉴스가 다루지 않는, 목표 함수 자체를 정의하는 문제가 병목으로 남아 있다.
• 인간 수준 지능이 어렵다는 진단과 도달 이후 추월이 순식간이라는 전망이 한 사람 입에서 같이 나온다. 위험 논의가 확률이 아니라 시점의 문제로 다뤄져야 하는 이유다.
• '초지능이 왔는가'라는 질문은 지능의 정의를 정하지 않으면 답할 수 없다. 바둑에 한정하면 이미 도달했다는 지적은 AGI 논쟁에서 정의가 먼저라는 점을 보여 준다.
• 일자리 전망에서 AI 컨설턴트를 이미 존재하는 새 직업으로 꼽은 점이 눈에 띈다. 기술만 아는 사람도, 도메인만 아는 사람도 아닌 둘을 잇는 자리가 수요의 중심이라는 뜻이다.
• 강연자는 낙관과 대비를 분리한다. 장기적으로는 새 산업이 생긴다고 보면서도, 단기 대체에는 재교육과 국가 차원의 안전망이 있어야 한다고 명시한다.

자주 묻는 질문

관련 AI 소식