AI 칩 지도 정리: CPU·GPU·TPU·NPU·LPU를 가르는 유연성과 특화라는 하나의 규칙
CPU와 GPU, TPU, NPU, LPU까지 이름만 늘어나는 AI 칩을 유연성과 특화라는 한 축 위에 세워 정리한다. 어떤 칩이 어떤 작업에서 이기는지 예측하게 해주는 규칙과, 데이터 이동이라는 진짜 적을 함께 설명한다.
핵심 내용 읽기 →
AI TOPIC
AI 하드웨어 최신 뉴스와 핵심 해설
AI 하드웨어 관련 핵심 뉴스와 활용 인사이트 14편을 최신순으로 모았습니다.
AMD 라이젠 AI 할로 2대 클러스터로 400B 로컬 LLM 실행 테스트
128GB 메모리를 가진 소형 AI PC 두 대를 10기가 이더넷으로 묶어 3,580억·3,970억 파라미터 모델을 실제로 돌려본 실험. 두 가지 클러스터 방식과 실제 토큰 속도를 정리했다.
핵심 내용 읽기 →
로컬 AI 노트북 실험: VRAM 16GB와 24GB가 가르는 실행 가능한 모델의 경계
같은 사양에 그래픽 메모리 용량만 16GB와 24GB로 다른 노트북 두 대로 로컬 AI 모델을 돌려 비교한 결과, 생성 속도보다 VRAM이 어떤 모델을 아예 실행할 수 있는지를 가른다는 사실이 분명하게 드러났습니다.
핵심 내용 읽기 →
애플 오픈AI 소송 정리: 41쪽 소장이 주장하는 영업비밀 유출과 하드웨어 경쟁 구도
2024년 아이폰에 챗GPT를 넣으며 손잡았던 두 회사가 2년 만에 법정에서 맞섰다. 애플은 41쪽 소장에서 오픈AI의 하드웨어 사업을 겨냥해 영업비밀 침해를 주장했다. 소장에 담긴 쟁점을 정리했다.
핵심 내용 읽기 →
로컬 오픈소스 AI 모델 효율 경쟁: 파라미터당 임팩트로 본 데스크톱 추론의 현재와 미래 전망
AI Engineer 컨퍼런스 발표에서 아마드 오스만은 오픈소스 모델이 같은 성능을 훨씬 적은 파라미터로 내는 흐름을 짚고, 18개월 뒤 개인용 그래픽카드 한 장에서 돌아갈 지능의 수준을 전망하며 하드웨어 소유의 의미를 따졌다.
핵심 내용 읽기 →
로컬 LLM용 VRAM 확보 비교 - 듀얼 GPU 카드로 192GB를 7천 달러에 채우기
인텔 저가 GPU와 듀얼 GPU 카드로 로컬 LLM용 VRAM을 늘리는 실측 비교. 속도 손실 없이 192GB를 7천 달러에 채우는 조건과 메인보드 슬롯 분기 설정의 함정, 소프트웨어 성숙도 문제를 정리했다.
핵심 내용 읽기 →
텐스토렌트 Wormhole N300 vs 엔비디아·AMD — 비엔비디아 로컬 AI 카드 실측
CUDA도 비디오 출력도 없는 텐스토렌트 Wormhole N300을 RTX 5080, AMD R9700과 직접 비교했다. 속도·효율에서 엔비디아가 앞섰지만, 진짜 승부처는 칩이 아니라 소프트웨어 스택이라는 결론을 정리했다.
핵심 내용 읽기 →
AMD 라이젠 AI Max+ 395 Halo 박스 vs 엔비디아 DGX 스파크: 로컬 AI 성능 비교
AMD가 스트릭스 헤일로(라이젠 AI Max+ 395) 칩을 담은 4,000달러 미니 AI 박스를 내놨다. DGX 스파크와의 토큰 생성·프리필 속도, 128GB 통합 메모리, x86·NPU 이점, 사전 설치 소프트웨어까지 실측 비교를 정리했다.
핵심 내용 읽기 →
AMD 스트릭스 헤일로 vs 엔비디아 DGX 스파크: 로컬 LLM 미니 PC 비교와 구매 가이드
1,500달러 AMD 라이젠 AI 맥스+ 미니 PC가 4,700달러 엔비디아 DGX 스파크가 아예 못 올리는 1,200억 파라미터 모델을 구동한다. 통합 메모리·대역폭·소프트웨어 성숙도까지 냉정하게 따져 본 2026년 로컬 AI 머신 선택 기준.
핵심 내용 읽기 →
메이투안 LongCat 2.0: 1.6조 파라미터 오픈 AI 모델 공개와 실제 성능 검증
중국 메이투안이 1.6조 파라미터 규모의 초거대 오픈 모델 LongCat 2.0을 공개했다. 희소 어텐션과 비엔비디아 ASIC 학습이 주목받지만, 무료 채팅 환경 실사용 평가에서는 코딩 성능이 기대에 못 미쳤다.
핵심 내용 읽기 →
AI 네이티브 물리 터미널 만들기: 듀얼 디스플레이와 로컬 LLM으로 만든 손안의 AI 기기
물리학 박사 레흐 칼리노프스키가 OLED와 전자종이 듀얼 디스플레이, ESP32 마이크로컨트롤러로 'AI 네이티브' 물리 터미널을 직접 만든 과정을 소개한다. 로컬 LLM 제어부터 텍스트 RPG까지 담았다.
핵심 내용 읽기 →
CPU vs GPU vs TPU 차이 정리: 칩마다 다른 연산 특성과 머신러닝
같은 작업이 CPU·GPU·TPU에서 왜 다르게 동작하는지, 각 칩이 어떤 연산에 최적화됐는지 행렬 곱셈과 텐서 개념을 통해 쉽게 풀어낸다. 특화의 장단점도 함께 설명한다.
핵심 내용 읽기 →
IBM 2026 AI 전망: 슈퍼 에이전트, 오픈소스 한계, 컴퓨트 부족, 멀티모달 정리
IBM 'Mixture of Experts' 연말 특집 — 슈퍼 에이전트와 '정문' 경쟁, 오픈소스의 패키징 한계, 구조적 컴퓨트 부족, 모듈형 멀티모달까지 2026 AI 전망을 정리했다.
핵심 내용 읽기 →
제프 딘 인터뷰 — 학습 데이터 고갈·추론 하드웨어·연속 학습 전망
구글 수석 과학자 제프 딘이 학습 데이터 고갈 우려, 추론 중심으로 옮겨가는 하드웨어, FP4 저정밀 연산, 연속 학습, 100만 배 연산 도약 이후의 가능성을 이야기한다.
핵심 내용 읽기 →