딥시크 DSpark 공개: 추론 속도 최대 85% 개선한 스페큘러티브 디코딩 최적화

핵심 메시지

• DSpark는 모델의 지능을 높이는 것이 아니라 시스템을 더 빠르고 저렴하며 과부하에 강하게 만드는 데 초점을 둔다.
• 딥시크는 DSpark가 사용자당 응답 속도를 V4 플래시에서 60~85%, V4 프로에서 57~78% 높인다고 밝혔다.
• 핵심은 작은 보조 모델이 다음 토큰을 미리 초안으로 쓰고 큰 모델이 이를 검증하는 '스페큘러티브 디코딩'이다.
• 병렬 초안의 약점인 '접미부 붕괴'를 보정 계층으로 완화하고, 트래픽에 따라 검증량을 조절하는 신뢰도 기반 검증을 더했다.
• 딥시크는 이 연구를 딥스펙(DeepSpec) 오픈소스 스택으로 공개했으며, 이는 미국의 첨단 칩 수출 규제 속 추론 효율 경쟁을 보여준다.

쉽게 이해하기

딥시크가 V4 모델에 'DSpark'라는 기술을 적용했다. 이 업데이트의 핵심은 모델을 더 똑똑하게 만드는 것이 아니라, 응답을 더 빠르게 하고 서빙 비용을 낮추며 같은 하드웨어로 더 많은 사용자를 감당하게 만드는 것이다. 아무리 똑똑한 모델도 너무 느리거나 비싸거나 서비스하기 어렵다면 쓸모가 없다는 문제의식에서 출발한다. 딥시크는 DSpark가 이미 실제 사용자 트래픽 환경에 배포됐다고 밝혔다.

현대 언어모델은 시스템 수준에서 토큰을 하나씩 순차적으로 생성한다. 각 토큰이 앞선 토큰에 의존하기 때문에 긴 답변은 눈에 띄는 대기 시간을 만들고, 수백만 사용자가 동시에 몰리면 GPU가 압박받는다. 딥시크는 낮은 GPU 활용률, 사용자 체감 대기 시간, 지연(latency)을 프로덕션 AI 서빙의 주요 병목으로 지목한다.

DSpark가 기반으로 삼는 기법은 '스페큘러티브 디코딩'이다. 큰 모델이 매번 한 조각씩 답을 쓰는 대신, 작은 보조 모델이 다음 몇 조각을 빠르게 초안으로 제시하고 큰 모델이 이를 검증한다. 초안이 좋으면 그대로 채택해 더 빨리 나아가고, 틀린 부분이 있으면 큰 모델이 거기서부터 바로잡는다. 최종 답의 주인은 여전히 큰 모델이며, 보조 모델은 속도를 붙여주는 조력자일 뿐이다.

기존 방식에는 약점이 있었다. 토큰을 하나씩 그리는 보조 모델은 정확하지만 느리고, 여러 토큰을 한꺼번에 그리는 병렬 방식은 빠르지만 뒤쪽 토큰이 앞선 추측 결과를 모른 채 만들어져 초안 끝부분이 무너지는 '접미부 붕괴(suffix decay)'가 생긴다. DSpark는 빠른 병렬 초안을 유지하되, 그 뒤에 작은 보정 계층을 더해 뒤쪽 토큰이 앞쪽과 자연스럽게 이어지도록 한다(반자기회귀 생성). 기본값으로는 이전 토큰만 주로 참고하는 가볍고 배포하기 쉬운 '마르코프 헤드'를 쓴다.

두 번째 축은 '신뢰도 기반 스케줄 검증'이다. 보조 모델이 토큰을 많이 그려도 큰 모델이 앞 두 개만 받아들이면 나머지 검증은 낭비다. DSpark는 각 초안 토큰에 신뢰도 점수를 매겨 검증할 가치가 있는 부분만 큰 모델에 보낸다. 트래픽이 한가하면 더 많이 검증하고, 몰리면 약한 뒷부분을 잘라내 용량 낭비를 막는다. 벤치마크(Qwen 3의 4B·8B·14B, 젬마 대상, 이글3·D플래시와 비교)에서 채택 초안 길이와 수용률이 크게 개선됐고, 실사용 트래픽에서 총 처리량이 50% 이상 향상됐다. 딥시크는 이를 딥스펙(DeepSpec) 오픈소스 스택으로 베이징대와 함께 공개했다.

주요 인사이트

• AI 경쟁의 다음 병목은 '누가 가장 큰 모델을 갖느냐'가 아니라 '누가 고성능 모델을 싸고 빠르고 안정적으로 서빙하느냐'로 이동하고 있다.
• DSpark는 벤치마크 시연이 아니라 실제 온라인 트래픽을 겨냥해, 시스템 부하와 하드웨어 여유를 실시간으로 살펴 검증량을 조절하는 '서빙 인프라'에 가깝다.
• 중국 AI 랩들이 모델 지능만이 아니라 추론 효율로 경쟁하는 배경에는 미국의 첨단 칩 수출 규제가 있으며, 텐센트와 샤오미도 유사한 효율화를 진행 중이다.
• 딥시크의 표현대로 이 기술은 '새로운 뇌'가 아니라 '뇌를 서빙하기 위한 더 나은 신경계'로, 모델 자체를 바꾸지 않고도 체감 속도와 처리량을 끌어올린다.

자주 묻는 질문

관련 AI 소식