롱캣 2.0 분석 — 중국산 ASIC으로 훈련한 1.6조 파라미터 오픈웨이트 모델의 구조
메이퇀 산하 롱캣이 공개한 1.6조 파라미터 오픈웨이트 모델 롱캣 2.0을 뜯어봅니다. 엔비디아 없이 중국산 AI 반도체로 훈련한 배경과 하드웨어 친화적 희소 어텐션, n그램 임베딩 설계, 코딩 벤치마크 성적을 정리했습니다.
핵심 내용 읽기 →
AI TOPIC
혼합전문가 최신 뉴스와 핵심 해설
혼합전문가 관련 핵심 뉴스와 활용 인사이트 2편을 최신순으로 모았습니다.
LLM 아키텍처 비교 2025: 딥시크 MLA, 혼합 전문가, 슬라이딩 윈도우 어텐션
세바스찬 라슈카가 딥시크 V3, OLMo 2, Gemma 3, Qwen 3, Kimi 2, GPT-OSS, GLM 4.5 등 2025년 공개된 주요 LLM 아키텍처의 핵심 설계 차이를 도식으로 비교해 알기 쉽게 설명합니다.
핵심 내용 읽기 →