기업 AI 전략 정리: 자체 구축 대신 범용 SaaS부터, AI는 거품인가 — 삼성SDS 컨설팅 강연

핵심 메시지

• 발표자는 지금의 AI 투자 국면을 2000년 닷컴 버블과 비교하면서도, 빅테크의 잉여현금흐름이 설비투자를 감당하고 있다는 점에서 성격이 다르다고 봤다.
• 이른바 매그니피센트 7의 시가총액 합계는 지난해 말 기준 약 3경 원으로, 한국 코스피 전체 시가총액의 10배에 육박한다.
• 일반 기업이 이 규모의 투자를 따라가 자체 AI 환경을 갖추는 것은 현실성이 없으므로, 기술 접근 비용은 최소화하고 자기 업무에 어떻게 적용할지 고민하는 데 자원을 몰아주라는 것이 핵심 제언이다.
• AI 시대의 가장 큰 리스크는 잘못 쓰는 것이 아니라 쓰지 않아서 생기는 기회비용이라는 것이 결론이다.

쉽게 이해하기

삼성SDS 컨설팅팀 최진성 그룹장은 물류 실무 세션들 사이에서 한 발짝 떨어진 총론을 맡아, 생성형 AI가 정확히 무엇인지부터 다시 짚었다. 그는 ChatGPT라는 이름 자체가 이 기술의 성격을 잘 설명한다고 말한다. 대화형 인터페이스인 '챗'을 걷어내면 남는 것은 무에서 유를 만들어내는 생성(Generative), 이미 축적된 사전 학습(Pre-trained), 그리고 단어 하나가 아니라 문단과 페이지 전체의 맥락을 이해하는 트랜스포머(Transformer)다.

특히 사전 학습 부분을 강조했다. GPT 계열 모델에 약 10조 토큰 규모의 지식이 이미 들어가 있고, 이는 단행본 1억 권 분량에 해당한다는 설명이다. 요약·번역 같은 기본 사무 업무에만 쓰기에는 지나치게 많은 학습이 되어 있는 기술이며, 이 거대한 지식을 어떻게 끌어내느냐가 활용의 성패를 가른다고 봤다.

그다음은 거품 논쟁이다. 발표자는 2000년 닷컴 버블을 끌어와, 당시 투자자들이 큰 손실을 봤지만 그때 깔린 인터넷 망 덕분에 이후 네트워크 사용 비용이 90% 가까이 떨어졌고 그 위에서 구글과 아마존 같은 기업이 나왔다는 점에 주목했다. 다만 재무 상태는 다르다고 선을 긋는다. 지금 빅테크의 자본적 지출은 잉여현금흐름이 감당하고 있으며, 쓰는 돈만큼 벌어들이는 돈이 충분한 상황이라는 것이다.

자본이 실제로 흘러가는 곳도 구체적으로 짚었다. 먼저 GPU다. 호퍼에서 블랙웰, 다음 세대 루빈까지 4년 만에 성능이 수백 배 성장한 것으로 알려져 있고, 삼성SDS도 서비스 제공을 위해 엔비디아로부터 계속 GPU를 사들이고 있다고 밝혔다. 다음은 이를 돌릴 환경이다. 메타가 루이지애나주에 짓고 있는 데이터센터 하이페리온은 소모 전력이 5기가와트에 육박하고, 오픈AI·오라클·소프트뱅크의 스타게이트 프로젝트는 합산 10기가와트가 예상된다. 1기가와트가 원전 한 기의 발전량이라는 점에서, AI 인프라 이야기는 결국 전력 인프라로 귀결된다는 것이 그의 진단이다.

결론은 기업의 선택이다. 그는 클라우드냐 온프레미스냐, 범용이냐 특화냐라는 두 축을 놓고, '온프레미스에서 범용 환경을 직접 구축한다'는 선택지는 사실상 현실성이 떨어진다고 잘라 말했다. 삼성 역시 자체 환경을 만들려 노력했던 회사 중 하나지만 시각이 조금씩 바뀌고 있다고 인정하면서, 클라우드 기반 범용 서비스로 일반 사무 업무부터 시작하고 R&D·고객정보·재무처럼 외부에 노출하기 어려운 영역만 제한적으로 온프레미스를 남겨두라고 권했다. 근거로는 범용 서비스가 커스텀 GPTs, 외부·사내 시스템 연계(MCP), 코딩 지원, 협업 워크스페이스, 컴플라이언스 모니터링까지 기업 요구를 빠르게 흡수하고 있다는 점을 들었다.

주요 인사이트

• 인프라 투자는 그 자체로 손익을 따질 대상이 아니라 다음 세대 혁신의 토대다. 닷컴 시절 깔린 망이 90% 저렴해진 뒤에야 구글과 아마존이 나왔듯, 지금의 GPU·데이터센터 투자도 같은 자리에 있다는 것이 발표의 전제다.
• AI 인프라를 끝까지 따라가면 전력 인프라 문제가 나온다. 데이터센터 한 곳이 원전 다섯 기 분량을 소모하는 수준이면, AI 도입 논의는 기술 부서만의 의제일 수 없다.
• 범용 SaaS가 특화 니즈까지 커버리지를 넓히고 있다는 점이 '직접 만들지 말라'는 조언의 실질적 근거다. 2주에서 한 달 간격으로 갱신되는 기술을 자체 인력으로 따라잡는 것보다, 그 변화를 흡수하는 서비스를 구독하는 편이 합리적이라는 계산이다.
• 발표자는 'AI 리터러시'보다 'AI 플루언시'라는 표현을 선호했다. 기술을 얼마나 아느냐가 아니라 이걸로 내가 무엇을 할 수 있고 어디에 녹일 수 있는지 보는 시야가 조직을 움직인다는 뜻이다.
• 계획을 다 세운 뒤 도입하는 순서가 아니라, 일단 써보면서 적용처를 찾는 순서를 권했다. 이는 도구의 변화 속도가 기획 주기보다 빠를 때 나오는 현실적인 처방이다.

자주 묻는 질문

관련 AI 소식