AMD 라이젠 AI Max+ 395 Halo 박스 vs 엔비디아 DGX 스파크: 로컬 AI 성능 비교

핵심 메시지

• 핵심은 칩이 아니라 '주변 환경' — AMD는 사전 설치 소프트웨어와 x86 호환성으로 사용 편의의 격차를 좁혔다.
• 토큰 생성 속도는 메모리 대역폭에 좌우돼 스파크와 대등하지만, 프리필(프롬프트 처리)은 스파크의 CUDA가 약 3배 빠르다.
• 128GB 통합 메모리 덕분에 MoE(전문가 혼합) 계열의 대형 모델도 올릴 수 있다.
• x86이라 비주얼 스튜디오 등 기존 개발 도구가 에뮬레이션 없이 그대로 돌아가고, 윈도우·리눅스를 골라 쓸 수 있다.
• 채팅·에이전트 같은 일상 작업엔 프리필 격차가 잘 체감되지 않아 '이것저것 돌려보는' 사용자에게 특히 잘 맞는다.

쉽게 이해하기

AMD가 엔비디아 DGX 스파크에 맞서는 작은 전용 AI 박스를 내놨다. 안에는 이미 여러 2025년 미니 PC(비링크·GMK테크·프레임워크 데스크톱 등)에 쓰인 '스트릭스 헤일로' 칩, 정식 명칭 라이젠 AI Max+ 395가 들어 있다. 가격은 4,000달러로 스파크와 같은데, 지난 1년 새 이 칩을 쓴 다른 박스들도 조용히 4천 달러대로 올라와 있어 AMD가 특별히 비싸게 받는 것은 아니다. 리뷰어가 가진 것 중 가장 작은 기기이며, GPU가 함께 쓰는 128GB 통합 메모리를 갖췄다.

리뷰어는 잠재 구매층을 세 부류로 나눈다. 첫째는 개발자다. 코드 빌드·컴파일 같은 CPU 위주 작업에서는 스파크·M4 프로·헤일로가 서로 비슷하다. 파이썬 만델브로 테스트에서 소비전력은 헤일로·스파크 모두 164W, 맥은 80~90W였고, 컴파일 점수는 맥 17.3, 스파크 15.4, 헤일로 18.4로 큰 차이가 없었다. 결론은 단지 코드를 돌리려고 4천 달러를 쓸 이유는 없다는 것이다.

둘째 부류인 '취미로 만지작거리는' 사용자에게서 진가가 드러난다. 이 박스는 LM 스튜디오·올라마(내부적으로 llama.cpp)·레모네이드·컴피UI가 이미 설치돼 나온다. 12B급 젬마 모델로 잰 결과, 메모리 대역폭에 좌우되는 토큰 생성은 스파크 26.4, 헤일로 24.6, M4 프로 33.8 토큰/초로 대등했다(대역폭은 스파크·맥 273GB/s, 헤일로 256GB/s). 반면 연산이 많은 프리필(프롬프트 처리)은 헤일로 약 650, 스파크 약 2000으로 스파크가 약 3배 빨랐다 — 다만 같은 칩의 1년 전보다 헤일로 프리필이 약 2배 빨라져 소프트웨어 개선 효과가 컸다. 이미지·영상 생성처럼 연산이 무거운 작업에선 스파크가 더 앞섰다.

AMD도 자체 벤치마크를 공개했다. 토큰 생성에서 GLM·Qwen·GPT-OSS 계열 모델을 상대로 스파크보다 4~14% 빠르다고 주장하고, 이미지 생성은 애플 M4 프로 대비 3~7배 빠르다고 제시한다. 그러나 리뷰어는 이를 비판적으로 읽어야 한다고 지적한다. 스파크와는 (헤일로가 강한) 토큰 생성만 비교하고 (스파크가 3배 앞서는) 프리필은 빠졌으며, 이미지 생성 비교 상대는 스파크가 아니라 맥이고, 사용된 것은 128GB 메모리에 잘 맞는 MoE 모델(활성 파라미터는 훨씬 적다)이라는 것이다. 스파크 가격이 시기마다 4,000~4,700달러로 오르내려 '달러당 토큰' 지표도 딱 잘라 말하기 어렵다.

그럼에도 헤일로에는 스파크에 없는 실질적 강점이 있다. 스파크는 ARM(엔비디아 그레이스) 기반이라 리눅스 전용이지만, 헤일로는 평범한 x86이라 비주얼 스튜디오 등 기존 툴체인이 에뮬레이션 없이 그대로 돌아가고 윈도우·리눅스 버전을 골라 살 수 있다(윈도우판을 사도 키가 포함돼 리눅스 설치 가능). 최대 50 TOPS의 NPU가 있어 CPU·GPU와 함께 쓸 수 있고, 레모네이드 서버로 프리필은 NPU·디코드는 GPU에 맡기는 하이브리드도 가능하다. 다만 x86이라 발열이 다소 크고 상·측면 통풍구 탓에 스택은 어렵다. 무엇보다 작년과 달리 드라이버 씨름 없이 소프트웨어가 바로 동작하고 AMD가 단계별 가이드까지 제공해, 로컬 AI 진입장벽이 크게 낮아졌다. 두 대가 필요한 셋째 부류(클러스터링)는 후속 영상에서 다룰 예정이다.

주요 인사이트

• 프리필은 여전히 스파크가 앞서지만, 같은 칩의 1년 전 대비 약 2배 빨라져 소프트웨어 최적화의 힘이 크다.
• AMD 벤치마크는 스파크엔 토큰 생성만, 이미지 생성은 맥과 비교하는 식으로 유리한 각도만 보여준다 — 슬라이드는 비판적으로 읽어야 한다.
• x86 + 윈도우/리눅스 선택 + NPU(최대 50 TOPS)는 스파크(ARM·리눅스 전용, NPU 없음)에 없는 실질적 강점이다.
• 상·측면 통풍구와 x86 특유의 발열 탓에 여러 대를 쌓아 쓰기는 어렵다.
• 드라이버 없이 LM 스튜디오·올라마·컴피UI가 바로 동작하는 사전 구성은 로컬 AI 입문 부담을 크게 줄인다.

자주 묻는 질문

관련 AI 소식