기업 AI 도입 로드맵: 딥러닝 원리와 대체·증강 업무 구분, 데이터 정리부터 시작하는 순서

핵심 메시지

• 딥러닝의 전환점은 성능 수치가 아니라, 사람이 특징을 설계하던 단계를 모델이 데이터에서 스스로 특징을 뽑아내는 단계로 바꿨다는 데 있다.
• 반복적인 업무는 대체 대상, 창의성과 판단이 필요한 업무는 증강 대상이라는 단순한 기준으로 사내 업무를 갈라 보라고 강연자는 조언한다.
• AI 프로젝트는 모델이 아니라 데이터 정리에서 시작하며, 정리되지 않은 데이터 레이크만 있는 상태라면 모델이 나오기까지 최소 반년이 걸린다고 본다.
• 회귀처럼 완전히 설명 가능한 단순 모델로 데이터에 신호가 있는지 먼저 확인한 뒤에야 딥러닝으로 넘어가는 순서를 권한다.
• 배포 이후에도 현실이 바뀌면 입력 데이터의 성질이 달라지므로, 실시간 데이터 품질 모니터링과 집단별 편향 검증 데이터가 함께 필요하다.

쉽게 이해하기

데이터 과학자 존 크론이 2023년 2월 런던에서 열린 한 투자사 행사에서 B2B 소프트웨어 기업 경영진을 대상으로 진행한 기조강연이다. 강연은 기술 변화의 속도를 1875년에 태어나 122세까지 산 잔 칼망의 생애로 열어 놓는다. 그가 태어난 이듬해 전화기가, 네 살에 백열전구가 특허를 받았고, 항생제와 트랜지스터와 인터넷의 기초가 모두 그의 생애 안에서 등장했다는 이야기다. 본론의 첫 부분은 용어 정리다. 강연자는 AI 자체는 시기마다 뜻이 달라지는 유행어에 가깝다고 잘라 말한다. 1990년대의 주류는 전문가 시스템이었고, 카스파로프를 이긴 딥블루도 프로그래머와 체스 전문가가 규칙을 일일이 손으로 짜 넣은 결과였다. 오늘의 주류인 머신러닝은 반대로 데이터로 학습한다. 다만 딥러닝 이전에는 학습에 앞서 사람이 특징을 설계해야 했고, 2006년경 카메라의 얼굴 인식이 눈은 어둡고 뺨은 밝다는 식의 특징에 의존했듯 그 설계에 대부분의 시간이 들어갔다.

딥러닝은 이 순서를 뒤집는다. 특징을 사람이 만들지 않고 모델이 데이터에서 뽑아내며, 사람은 구조 설계와 학습에 시간을 쓴다. 강연자는 이를 시각 피질에 빗댄다. 눈에서 들어온 정보를 첫 층이 직선만 감지하고, 다음 층이 그것을 모아 모서리와 곡선을, 그다음 층이 더 추상적인 형태를 만들어 결국 복잡한 대상을 인식하는 구조다. 브라우저에서 돌아가는 신경망 실습 도구를 띄워, 인공 뉴런 하나로는 직선 하나밖에 긋지 못하지만 몇 개를 더하면 육각형 경계를, 은닉층을 세 개 이상 쌓으면 나선 형태까지 학습한다는 것을 보여 준다. 은닉층 세 개 이상이 곧 딥러닝이라는 정의도 이 대목에서 나온다.

응용은 세 갈래로 정리된다. 머신 비전에서는 객체 탐지와 픽셀 단위 분할이 자율주행 같은 문제를 가능하게 했고, 심층 강화학습은 바둑과 스타크래프트, 루빅스 큐브를 푸는 로봇 팔과 보행 로봇으로 이어졌다. 그리고 자연어 처리에서는 트랜스포머 구조가 긴 맥락을 이어 붙이는 능력을 열었고, 수천억 개 이상의 파라미터를 가진 파운데이션 모델들이 텍스트와 이미지, 영상 생성까지 확장했다.

강연의 중심은 대체와 증강의 구분이다. 고객 응대, 데이터 입력, 장부 정리, 교정처럼 반복성이 높은 업무는 더 빠르고 저렴하며 때로 더 정확한 기계로 대체된다. 반대로 창의성과 리더십, 의사결정이 들어가는 업무는 대체가 아니라 증강 대상이다. 계약서와 사업계획서, 제안서 초안 작성, 긴 문서의 요약과 쉬운 말로 바꾸기, 상황을 설명한 뒤 해법을 물어보는 용도가 예로 나온다. 다만 이 모델들이 틀린 내용을 매우 자신 있고 설득력 있게 말한다는 점을 짚으며, 중요한 사업 결정 전에는 반드시 교차 확인하라고 덧붙인다. 파운데이션 모델 API가 만든 더 큰 변화는 아예 만들지 않아도 되는 모델이 생겼다는 점이다. 강연자는 특정 대학과 비슷한 대학을 추천하는 기능을 예로 들며, 자체 개발이었다면 6~12개월이 걸렸을 과제를 API 호출로 대체한 사내 데모를 보여 준다.

마지막은 실행 순서다. 데이터가 정리되지 않은 채 쌓여만 있다면 열 단위 구조화, 결측치 처리, 단위 일관성 확보부터 해야 하고 여기에만 반년이 걸릴 수 있다. 그다음은 회귀나 준지도 방식처럼 입력과 출력의 관계가 훤히 보이는 단순 모델로 데이터에 신호가 있는지 확인하는 단계이고, 딥러닝이나 그래디언트 부스팅은 그 뒤다. 조직 측면에서는 방어 가능한 자산이 되는 고위험 과제와 성과가 빨리 나오는 저위험 과제를 병행하고, 정기 랩 미팅과 논문 세미나, 연 몇 차례의 학회 파견을 권한다. 임원에게는 읽은 AI 블로그 글을 매번 데이터 과학 팀에 전달하지 말라는 조언도 붙는다. 질의응답에서는 인공 뉴런 하나가 곱셈과 합산 수준의 단순한 선형대수 연산이라 GPU의 수천 개 코어로 층 단위 병렬 처리가 가능하다는 설명, 2019년에 배포한 언어 모델이 이듬해 '코로나'라는 단어를 감당하지 못한 사례로 설명한 특징 드리프트, LIME과 SHAP 같은 설명 도구와 집단별 검증 데이터로 편향을 사후 확인해야 한다는 점이 이어졌다.

주요 인사이트

• 대체와 증강을 가르는 기준을 '반복성' 하나로 잡으면, 어느 부서의 어떤 업무부터 손대야 할지 판단이 훨씬 빨라진다.
• 파운데이션 모델 API의 진짜 가치는 성능보다 '만들지 않아도 되는 모델'이 생겼다는 데 있다. 반년에서 1년짜리 사내 과제가 데모 수준으로 내려오면 로드맵의 우선순위 자체가 바뀐다.
• 데이터 정리를 건너뛴 AI 계획은 일정이 아니라 전제가 틀린 계획이다. 같은 열에 다른 단위가 섞여 있는 수준의 문제부터 정리해야 모델링이 시작된다.
• 배포는 끝이 아니라 시작이다. 세상이 바뀌면 모델은 그대로여도 들어오는 데이터의 성질이 바뀌고, 성능은 조용히 나빠진다.
• 대형 모델의 학습과 운영 비용은 기술 문제인 동시에 구조 문제다. 강연자는 이 비용이 소수 기업으로 힘을 집중시키는 요인이라고 우려하면서, 파라미터를 절반으로 줄여도 정확도가 유지되는 연구 흐름을 대안으로 소개했다.

자주 묻는 질문

관련 AI 소식