CPU GPU TPU DPU QPU 차이 정리 — AI 칩 5종을 한눈에 이해하기

핵심 메시지

• CPU는 운영체제와 프로그램을 돌리는 컴퓨터의 두뇌로, 분기와 논리가 많은 순차 연산에 최적화돼 있다.
• GPU는 수천 개의 코어로 행렬 연산을 동시에 처리해 그래픽 렌더링과 딥러닝 학습에 쓰인다.
• TPU는 구글이 딥러닝의 텐서 연산만을 위해 만든 칩으로, 신경망 학습 비용을 크게 줄여 준다.
• DPU는 데이터센터에서 네트워킹·저장 작업을 떠맡아 CPU의 부담을 덜어 주는 새로운 프로세서다.
• QPU(양자 칩)는 큐비트의 중첩을 이용해 기존 암호 체계를 위협할 수 있는 미래 기술이다.

쉽게 이해하기

영상은 컴퓨터가 하드웨어 차원에서 실제로 어떻게 계산하는지를 다섯 종류의 처리 장치로 나눠 설명한다. 1936년 콘라트 추제가 만든 최초의 프로그래밍 가능 컴퓨터 Z1은 초당 한 번의 연산만 가능했지만, 오늘날 CPU는 초당 수십억 번의 사이클로 동작한다.

1945년 폰 노이만 구조가 데이터와 명령어를 같은 메모리에 저장하는 기본 설계를 제시했고, 트랜지스터와 집적회로를 거쳐 1971년 인텔이 최초의 상용 마이크로프로세서를 내놓으며 현대 CPU의 토대가 마련됐다.

CPU는 운영체제 실행과 하드웨어 관리를 맡는 두뇌로, 조건 분기가 많은 작업을 하나씩 순서대로 처리한다. 코어를 무작정 늘리면 전력과 발열이 함께 커져 수익이 줄어들기 때문에, 고급 칩도 보통 24코어 안팎을 상한으로 둔다. 모바일에 강한 ARM과 데스크톱의 x86이 대표적인 아키텍처다.

GPU는 단순 연산용 코어를 수천 개 갖춰 선형대수를 한꺼번에 처리하고, 그래픽뿐 아니라 대량의 행렬 곱셈이 필요한 딥러닝 학습의 핵심이 됐다. 다만 단일 코어 성능은 CPU가 더 빠르므로, 순차적이고 복잡한 논리에는 여전히 CPU가 유리하다.

TPU는 텐서 연산에 특화해 레지스터 접근 없이 행렬 곱셈을 수행하며, DPU는 데이터 이동·암호화·네트워크 처리를 전담한다. 마지막으로 QPU는 0과 1을 동시에 표현하는 큐비트와 얽힘을 이용해, 쇼어 알고리즘 같은 방식으로 RSA 암호를 위협할 잠재력을 가진다.

주요 인사이트

• 프로세서를 선택하는 핵심 기준은 '순차 처리냐 병렬 처리냐'다. CPU는 다재다능한 세단, GPU는 직선 주행에 강한 로켓에 비유된다.
• GPU가 코어가 많다고 모든 일에 유리한 것은 아니다. 세상의 코드 상당수는 단일 스레드로 순차 실행돼야 하므로 CPU가 필요하다.
• 딥러닝 학습에 몇 주에서 몇 달이 걸린다면, 행렬 곱셈에 특화된 TPU가 수백만 달러의 비용을 아껴 줄 수 있다.
• ARM은 전력 효율 덕분에 모바일을 넘어 애플 실리콘과 클라우드(그래비톤 등)로 확산되며 고성능 컴퓨팅에서도 입지를 넓히고 있다.
• 양자 컴퓨터가 실용화되면 암호 체계가 흔들릴 수 있지만, 현재로서는 쇼어 알고리즘을 실제로 돌릴 수 있는 양자 컴퓨터는 존재하지 않는다.

자주 묻는 질문

관련 AI 소식