병렬 스케일링 법칙 정리: 파라미터 대신 병렬 연산을 늘려 LLM 성능을 높이는 방법
딥러닝 논문읽기 모임이 소개한 Parallel Scaling Law 논문을 정리했다. 파라미터도 추론 토큰도 아닌 병렬 연산을 늘려 메모리와 지연 시간 부담 없이 성능을 끌어올리는 방식과, 기존 모델에 적용하는 2단계 학습 전략까지 짚는다.
핵심 내용 읽기 →
AI TOPIC
엣지 AI 최신 뉴스와 핵심 해설
엣지 AI 관련 핵심 뉴스와 활용 인사이트 7편을 최신순으로 모았습니다.
임베디드 PyTorch 사례: 100KB 모델로 코스타리카 우림의 새소리를 실시간 탐지하다
전력망도 기지국도 없는 코스타리카 국립공원에서 멸종위기 새를 추적한 사례. 라즈베리 파이와 BirdNet 대신 신호처리와 100KB 모델을 택해 배터리 수명과 오탐 문제를 함께 푼 과정을 정리했다.
핵심 내용 읽기 →
온디바이스 AI 에이전트로 만드는 접근성 게임 — 뉴욕타임스 사례
뉴욕타임스 게임팀 엔지니어가 클라우드 대신 휴대폰에서 직접 도는 에이전트 AI로 지연·프라이버시 문제를 줄이고, 장애가 있는 플레이어까지 배려하는 접근성 게임을 설계하는 방법을 설명한다.
핵심 내용 읽기 →
캑터스 니들: 2600만 파라미터 함수 호출 특화 소형 AI 모델 정리
YC 스타트업 캑터스가 공개한 오픈소스 함수 호출 모델 '니들'은 파라미터가 2,600만 개뿐이다. MLP 없이 어텐션만으로 구성한 구조와 엣지 활용법을 살펴본다.
핵심 내용 읽기 →
구글 젬마 4(Gemma 4) 온디바이스 오픈 AI — 오프라인·다국어·에이전트 기능 정리
구글이 공개한 오픈 모델 젬마 4는 인터넷 연결 없이 스마트폰 등 기기에서 직접 실행되며, 다국어 미세조정과 에이전트 기능으로 AI 접근성을 넓힌다.
핵심 내용 읽기 →
양자화(Quantization)란 — AI 모델을 가볍게 만들어 엣지 기기에 올리는 법
휴대폰·마이크로컨트롤러 같은 엣지 기기에 무거운 딥러닝 모델을 올리기 위해 모델 크기를 줄이는 양자화 기법을, 사후 양자화와 양자화 인식 학습 두 방식으로 나눠 설명합니다.
핵심 내용 읽기 →
온디바이스 AI(엣지 AI) 장단점 정리: 지연·프라이버시·비용과 하이브리드 전략
서버 대신 기기에서 직접 모델을 돌리는 온디바이스 AI의 장점(지연·프라이버시·비용)과 한계(모델 크기·다운로드·연산), 그리고 로컬과 원격을 함께 쓰는 하이브리드 접근을 정리했습니다.
핵심 내용 읽기 →