GPU란? CPU와의 차이·병렬연산·AI·클라우드 활용 한눈에 정리

핵심 메시지

• GPU(그래픽 처리 장치)는 수백 개의 코어로 연산을 '병렬'로 처리해, 코어가 적고 '직렬'로 계산하는 CPU가 감당하기 힘든 고강도 연산을 떠맡는다.
• 원래 게임용 그래픽 가속기로 출발했지만, 지금은 금융·생명과학·헬스케어의 인공지능, 특히 머신러닝과 딥러닝 신경망 학습에 핵심으로 쓰인다.
• 대표적 활용처는 가상 데스크톱 인프라(VDI), 인공지능, 고성능 컴퓨팅(HPC) 세 가지다.
• GPU는 거의 매년 새 제품이 나와 기업이 직접 최신 장비를 따라가기엔 비싸고 비효율적이라, 필요할 때만 쓰고 쓴 만큼만 내는 클라우드가 합리적이다.

쉽게 이해하기

IBM의 제품 매니저 알렉스 후닥은 'GPU란 무엇인가'라는 기본 질문에서 출발한다. GPU는 graphic processing unit의 약자로, 우리에게 더 익숙한 CPU와 비교하면 그 성격이 분명해진다. CPU는 코어가 몇 개뿐인 대신 한 번에 하나씩 연산을 처리하는 직렬 방식이고, GPU는 수백 개의 코어를 갖춰 여러 연산을 동시에 처리하는 병렬 방식이다.

그래서 일반적인 앱 코드는 대부분 CPU가 처리하지만, 이따금 CPU 혼자 감당하기 어려운 고강도 연산이 필요한 작업이 등장하면 그 부분을 GPU로 넘긴다. 발표자는 GPU를 'CPU 혼자서는 낼 수 없는 추가 근육이자 추가 두뇌'에 비유한다. 시장의 주요 GPU 공급사는 엔비디아와 AMD이며, 각각 용도에 최적화된 제품을 만든다.

활용 사례는 크게 셋이다. 첫째 VDI(가상 데스크톱 인프라)로, 예컨대 현장의 건설 노동자가 고사양 3D CAD 프로그램을 멀리 떨어진 클라우드 데이터센터의 서버에서 마치 바로 옆에 있는 것처럼 돌려 볼 수 있게 한다. 둘째는 영화 애니메이션·렌더링과 게임처럼 그래픽 집약적인 작업이고, 셋째는 인공지능이다.

인공지능은 머신러닝과 딥러닝으로 나뉘는데, 머신러닝 추론용으로 최적화된 GPU가 있고, 데이터 과학자가 신경망을 만들고 학습시키도록 돕는 GPU도 따로 있다. 즉 인간의 뇌처럼 사고하는 알고리즘을 만드는 일은 CPU 혼자로는 불가능하고 GPU의 능력이 필요하다. 여기에 여러 연산 노드에 작업을 분산하는 고성능 컴퓨팅(HPC)도 GPU의 중요한 무대다.

마지막으로 '왜 클라우드에서 GPU를 쓰는가'를 짚는다. GPU 기술은 거의 매년 새 제품이 나올 만큼 빠르게 바뀌어, 기업이 자체 장비로 최신 사양을 따라가는 것은 비싸고 비현실적이다. 반면 클라우드 사업자는 기술을 계속 갱신해 필요한 시점에 GPU를 제공한다. 클라우드는 다시 베어메탈(서버 전체를 점유·구성)과 가상 서버(시간제 과금 등 유연한 요금제)로 나뉘며, 핵심은 쓴 만큼만 비용을 낸다는 점이다.

주요 인사이트

• GPU의 본질은 '그래픽'이 아니라 '병렬 연산'이다. 게임에서 출발한 이름이지만, 동시에 막대한 계산을 처리하는 구조가 AI 학습과 맞아떨어지면서 용도가 확장됐다.
• CPU와 GPU는 경쟁 관계가 아니라 분업 관계다. 일상적 코드는 CPU가, 고강도 연산은 GPU가 맡는 '오프로딩' 구조로 이해해야 한다.
• 같은 AI라도 추론용 GPU와 신경망 학습용 GPU가 따로 최적화돼 있어, 용도에 맞는 선택이 비용·성능을 좌우한다.
• GPU의 빠른 세대 교체 주기는 소유보다 임대(클라우드)가 합리적인 핵심 이유다. 놀고 있는 자체 장비는 감가상각되는 '돈 낭비'가 된다.

자주 묻는 질문

관련 AI 소식