애플 AFM3 온디바이스 AI 분석: 200억 파라미터 모델을 낸드에 저장하고 D램은 필요한 부분만

핵심 메시지

• 애플의 3세대 파운데이션 모델 AFM3 코어 어드밴스드는 전체 200억 파라미터를 낸드 플래시에 저장해 두고, 요청에 따라 10억~40억 파라미터만 활성화해 계산한다.
• 토큰마다 전문가를 바꾸는 일반적인 전문가 혼합(MoE)과 달리 IFP는 사용자의 요청을 먼저 보고 필요한 부분을 골라 한 번 D램으로 올린 뒤 계속 재사용해, 느린 낸드를 읽는 횟수 자체를 줄인다.
• 애플은 이미 이전 세대 약 30억 파라미터 온디바이스 모델에서 디코더 가중치를 2비트, 임베딩을 4비트, KV 캐시를 8비트까지 낮춘 전력이 있다.
• 트렌드포스는 2026년 플래그십 스마트폰에서 로컬 AI용 모델과 캐시가 40~60GB의 저장 공간을 쓸 수 있다고 전망하며, 256GB가 새로운 기본 용량으로 자리 잡을 가능성을 본다.
• AI 데이터센터가 D램과 낸드를 대규모로 흡수하면서 모바일 메모리 가격이 크게 올라, 저장 공간 확대와 원가 부담이 동시에 밀어닥치는 상황이다.

쉽게 이해하기

새 아이폰 공개를 앞두고 이 영상이 가장 먼저 확인하겠다고 밝힌 항목은 카메라가 아니라 메모리와 저장 공간이다. AI 데이터센터가 D램과 낸드를 대규모로 가져가면서 올해 2분기 모바일용 LPDDR5X 가격은 전 분기 대비 약 78~83% 올랐고, 팀 쿡도 메모리와 저장장치 가격 상승을 더 이상 전부 흡수하기는 어렵다고 밝혔다. 애플이 중국 D램 업체 CXMT와 조달을 논의한다는 보도까지 나왔는데, CXMT는 2025년 기준 세계 D램 점유율 4위인 약 7.7% 수준까지 올라온 업체다.

하필 이 시점에 애플은 아이폰 안에서 메모리를 쓰는 방식 자체를 바꿨다. 올해 공개한 3세대 애플 파운데이션 모델 AFM3에는 기기에서 직접 도는 모델이 두 종류 있는데, 약 30억 파라미터의 밀집(dense) 모델인 AFM3 코어와, 전체 파라미터가 200억 개지만 요청에 따라 그중 10억~40억 개만 활성화하는 AFM3 코어 어드밴스드다. 애플과 구글은 올해 1월 차세대 애플 파운데이션 모델을 제미나이 모델과 구글의 클라우드 기술을 기반으로 개발한다고 공동 발표했고, 애플은 그 기반 위에서 자사 실리콘과 애플 인텔리전스에 맞춰 AFM3를 다시 설계했다.

핵심은 계산에 쓰지 않는 나머지 가중치를 어디에 둘 것이냐다. 어떤 질문에서 어떤 부분이 필요할지 미리 알 수 없으니 200억 파라미터 전체는 어딘가에 남아 있어야 하는데, 스마트폰에 수십 기가바이트의 D램을 넣을 수는 없다. 그래서 애플은 저장 공간으로만 쓰던 낸드를 모델 보관 장소로 끌어들였다. 다만 낸드는 D램보다 훨씬 느려서, 토큰마다 새 가중치를 읽어 오면 계산 시간보다 기다리는 시간이 문제가 된다.

여기서 등장하는 것이 IFP다. 사용자의 요청을 먼저 보고 이 작업에 필요한 부분을 고른 뒤, 선택된 가중치를 낸드에서 D램으로 한 번 가져와 토큰마다 갈아 끼우지 않고 그대로 쓰다가 정말 필요할 때만 다시 고르는 방식이다. 애플이 IFP를 처음 발표한 연구에서는 90억 파라미터 모델에서 질문마다 약 30억 개만 골라 썼는데도 일반적인 30억 파라미터 밀집 모델보다 수학과 코딩에서 5~8포인트 높은 성능을 냈고, 첫 토큰이 나오기까지 걸리는 시간은 30억 밀집 모델과 비슷했다.

모델 자체를 줄이는 양자화도 함께 간다. 애플은 2025년 약 30억 파라미터 온디바이스 모델에서 디코더 가중치를 2비트, 임베딩을 4비트, 대화가 길어질수록 쌓이는 KV 캐시를 8비트로 낮췄다. 낮은 비트로 바뀔 것을 감안해 학습하는 양자화 인식 학습(QAT)을 쓰고 마지막에 작은 어댑터를 다시 학습해 압축 과정에서 잃은 품질을 보완했는데, 그 결과 수학 벤치마크 일부는 조금 내려갔지만 MMLU는 오히려 1.5% 높아졌다. 30억 파라미터를 16비트로 저장하면 가중치만 약 6GB지만 2비트면 이론적으로 0.75GB 수준까지 줄어든다.

이 변화는 결국 저장 용량 숫자로 돌아온다. 현재 애플이 공식적으로 요구하는 애플 인텔리전스 저장 공간은 7GB 수준이고, 기능을 끄면 내려받은 모델이 기기에서 제거된다. 그러나 트렌드포스는 2026년 플래그십에서 언어·음성·이미지 모델과 처리 과정의 캐시를 합쳐 40~60GB가 쓰일 수 있다고 보고, 스마트폰 한 대당 평균 저장 용량이 전년보다 약 4.8% 늘어 256GB가 새로운 기본 용량이 될 가능성을 내다본다. 지난해 아이폰 17이 기본 용량을 128GB에서 256GB로 올린 변화도 같은 흐름 위에 있다.

같은 방향은 데이터센터에서도 보인다. SK하이닉스와 샌디스크는 낸드를 HBM과 SSD 사이의 새로운 계층으로 쓰는 HBF(고대역폭 플래시) 표준화를 진행 중이고, 삼성전자는 FMS 2026에서 zNAND-O라는 차세대 낸드 아키텍처 컨셉을 공개했다. PC에서도 온디바이스 모델뿐 아니라 마이크로소프트 리콜처럼 사용자가 본 화면을 로컬에 저장해 두고 나중에 AI가 검색하는 기능까지 등장하면서, AI를 위한 저장 공간의 정의가 모델 파일 너머로 넓어지고 있다.

주요 인사이트

• AI 메모리 논의의 축이 '얼마나 빨리 계산하느냐'에서 '그 지능 전체를 어디에 보관하느냐'로 넓어지고 있다. 계산 중인 가중치와 KV 캐시는 D램·HBM이 맡고, 거대한 모델 본체는 낸드가 맡는 분업 구도다.
• IFP는 메모리를 아끼려고 성능을 포기한 기법이 아니다. 필요한 능력만 골라 쓰면 큰 모델의 품질에 가까우면서도 작은 모델의 응답 속도를 낼 수 있다는 것이 애플 연구의 결과다.
• AI 가중치는 한 번 기록하면 대부분 읽기만 하는 데이터라 쓰기·지우기 반복에 약한 낸드와 성격이 맞는다. 다만 반복적인 읽기와 높은 패스 전압이 주변 셀의 문턱 전압을 흔드는 리드 디스터브 문제는 남는다.
• 한 대당 64GB, 128GB 같은 용량 한 단계는 개인에게는 큰 변화가 아니지만, 2025년 약 2억 4천만 대가 생산된 아이폰 물량과 만나면 낸드 업계 전체 수요를 흔드는 숫자가 된다.
• 저용량 낸드는 3D 낸드의 고단수·고집적 전환이 진행될수록 만들 경제성이 떨어진다. 수요(AI)와 공급(공정 전환) 양쪽이 동시에 기본 용량을 256GB 쪽으로 밀어 올리는 셈이다.

자주 묻는 질문

관련 AI 소식