AI 에이전트를 계속 개선하는 법: 트레이스 데이터 마이닝, 하네스 조정과 파인튜닝 전략
AI 에이전트를 개선하려면 코드가 아니라 실제 실행 기록인 트레이스를 읽어야 한다. 데이터 마이닝으로 문제 지점을 찾고, 하네스 조정과 파인튜닝을 오가며 오픈 모델로 비용까지 낮추는 방법을 AI 엔지니어 발표에서 정리했다.
핵심 내용 읽기 →
AI TOPIC
오픈 모델 최신 뉴스와 핵심 해설
오픈 모델 관련 핵심 뉴스와 활용 인사이트 22편을 최신순으로 모았습니다.
젬마 4 온디바이스 실사용기: 폰에서 돌리는 로컬 LLM과 에이전트 연결까지 해 본 결과
구글이 상업적 이용까지 허용해 공개한 젬마 4와 함께 나온 초소형 모델을 폰과 PC에서 직접 돌려 본 내용을 정리했다. 오프라인 동작, 에이전트 연결 방법, 그리고 작은 모델의 명확한 한계까지 다뤘다.
핵심 내용 읽기 →
Kimi K3 구조 분석: KDA 어텐션부터 Latent MoE, NoPE까지 정리
2.8조 파라미터에 활성 파라미터 1040억, 전문가 896개 중 16개만 켜는 오픈 모델 Kimi K3의 내부 구조를 어텐션과 MoE, 위치 인코딩 세 축으로 뜯어본 국내 전문가 대담을 정리했다.
핵심 내용 읽기 →
ATOM 프로젝트: 중국에 밀린 미국 오픈 모델 생태계를 되살리자는 네이선 램버트의 제안
라마 시리즈로 오픈 모델을 이끌던 미국의 파생 모델 점유율이 20% 선까지 내려앉고 중국 모델이 그 자리를 채웠다. 네이선 램버트가 ATOM 프로젝트를 통해 진단한 미국 오픈 모델 생태계의 현주소를 정리했다.
핵심 내용 읽기 →
VibeThinker 3B 검증: 소형 모델이 수학·코딩에서 거대 모델을 따라잡은 방법과 한계
웨이보 AI 랩이 공개한 30억 파라미터 VibeThinker 3B가 수학·코딩 벤치마크에서 수백 배 큰 모델과 겨뤘다. 검증 가능한 추론과 지식을 분리한 학습 레시피, 그리고 직접 실행에서 드러난 한계를 함께 짚었다.
핵심 내용 읽기 →
엔비디아 Nemotron 3.5 ASR 실사용 후기: 6억 파라미터로 실시간 음성인식 자체 호스팅하기
엔비디아가 공개한 Nemotron 3.5 ASR은 6억 파라미터 체크포인트 하나로 40개 언어의 실시간 스트리밍 음성인식을 처리한다. 캐시 인식 스트리밍과 단어 부스팅, 화자 분리를 직접 돌려본 개발자의 평가와 한계를 정리했다.
핵심 내용 읽기 →
오픈 모델 판세: Qwen·딥시크가 만든 중국 우위와 미국 오픈 생태계가 해야 할 일
오픈 모델 생태계를 추적해 온 연구자가 2024년 라마 우위에서 딥시크·Qwen 우위로 넘어간 과정을 허깅페이스 다운로드·파인튜닝 데이터로 설명하고, 미국이 무엇을 해야 하는지와 중국 모델 사용의 실제 리스크를 정리했다.
핵심 내용 읽기 →
앤트그룹 인클루전 AI: 8개월 만에 1조 파라미터 오픈 모델을 만든 방법과 FP8 학습 교훈
앤트그룹 인클루전 AI 팀이 링 모델 시리즈를 8개월 만에 쌓아 올린 과정과 FP8 학습 안정화, 파이프라인 병렬 최적화, 문장 단위 강화학습 실험, 오픈 모델 생태계에 남은 라이선스·데이터 과제를 팟캐스트에서 짚었다.
핵심 내용 읽기 →
오픈 모델 2025 결산 — Qwen·DeepSeek·MiniMax의 승패와 라이선스 지형 변화, 2026년 전망
AI2 소속 연구자와 게스트가 2025년 공개 가중치 모델을 티어별로 되짚었다. 코딩 CLI가 만들어낸 격차, DeepSeek을 둘러싼 불확실성, 아파치 라이선스 확산과 한국에서의 사용을 막는 예외 조항까지 정리했다.
핵심 내용 읽기 →
키미 K3 아키텍처 해설: 전문가 896개와 키미 델타 어텐션이 만든 추론 효율성
중국 오픈 모델 키미 K3의 구조를 뜯어본 해설 영상 정리. 1.8%에 그치는 전문가 활성화 비율과 토큰 잠재 표현 압축, 그리고 키미 델타 어텐션이 추론 비용과 디코딩 처리량을 어떻게 바꾸는지 살펴본다.
핵심 내용 읽기 →
오픈 모델 생태계 현황: 중국 Qwen 다운로드 1위, 미국은 라마 의존
허깅페이스 다운로드 데이터를 긁어 만든 8개 그래프로 오픈 소스 AI 모델 생태계를 진단한다. 중국 Qwen의 압도적 채택, 미국이 라마에 기대는 취약함, 딥시크·OpenAI GPT-OSS의 위치를 짚는다.
핵심 내용 읽기 →
엔비디아 네모트론(Nemotron) 오픈 모델 전략과 효율 우선 설계 총정리
엔비디아 네모트론을 이끄는 브라이언 카탄자로가 미국 오픈 AI 모델 현황, 4비트 사전학습, 하이브리드·MoE 구조, 그리고 연구 조직 운영 방식을 설명한다.
핵심 내용 읽기 →
미국 오픈 웨이트 모델 스타트업의 400B MoE '트리니티 라지' 개발기
네이선 램버트의 인터커넥츠 팟캐스트에서 한 미국 스타트업 팀이 6개월 만에 4.5B에서 400B MoE 오픈 모델을 만든 과정과 오픈 모델 사업의 현실을 이야기한다.
핵심 내용 읽기 →
엔비디아 Nemotron 오픈 모델을 만드는 이유: 브라이언 카탄자로가 밝힌 사업 논리와 조직 문화
엔비디아가 오픈 모델 Nemotron을 공개하는 두 가지 이유, FP4 학습과 Megatron, '함께 만드는' 500명 규모의 조직 문화, 그리고 'AI는 인프라'라는 카탄자로의 철학을 정리했습니다.
핵심 내용 읽기 →
AI 사후학습 레시피 진화: RLHF에서 다중 교사 온폴리시 증류까지
인터커넥츠 대담에서 두 연구자가 InstructGPT의 3단계 RLHF부터 DeepSeek R1, 2026년형 다중 교사 온폴리시 증류까지 프런티어 모델 사후학습 레시피의 변천을 짚었다.
핵심 내용 읽기 →
오픈 모델 코딩 에이전트 — Nemotron 3 Ultra와 dcode·LangSmith 실전
랭체인이 소개한 오픈 모델 Nemotron 3 Ultra와 모델 독립형 코딩 에이전트 dcode(Deep Agents Code)로 에이전트를 구성하고 LangSmith로 추적하는 방법을 정리했다.
핵심 내용 읽기 →
엔비디아 새 오픈 멀티모달 AI 모델 — 처리량·비용 효율을 끌어올린 5가지 기법
이미지·영상·오디오를 모두 다루는 300억 파라미터 오픈 AI 모델이 처리량과 비용 효율에 집중했다. 실시간의 약 10배 속도를 만든 5가지 기법을 정리했다.
핵심 내용 읽기 →
멀티모달리티란? 구글 Gemma 3가 이미지·짧은 영상·텍스트를 한 번에 이해하는 법
구글 Gemma 3는 코드·추론·다국어 등 텍스트 성능을 유지하면서 이미지와 짧은 영상까지 이해하는 멀티모달 개방형 모델이다. 멀티모달리티 개념과 다양한 활용 사례, 비전 인코더 같은 작동 원리까지 정리했다.
핵심 내용 읽기 →
오픈 AI 모델 vs 클로즈드 모델 차이 — 프라이버시·비용·성능으로 보는 선택 기준
ChatGPT 이후 갈라진 오픈·클로즈드 AI 모델의 차이를 프라이버시, 기업 비용, 성능 경쟁, 중국 오픈 모델의 부상까지 일반 독자 눈높이로 정리했다.
핵심 내용 읽기 →
로컬 LLM 실행 도구 5가지 비교: Ollama·llama.cpp·LM Studio·vLLM·MLX LM
Qwen·GLM 같은 오픈 모델을 클라우드 API 없이 내 기기에서 돌리는 다섯 가지 도구를 용도별로 비교한다. 프로토타이핑부터 프로덕션 서빙까지 무엇을 골라야 할지 정리했다.
핵심 내용 읽기 →
구글 제미나이 리더 인터뷰: AI 시대 채용 기준과 코딩·면접의 미래, 커리어 전략
구글 딥마인드에서 제미나이 개발자 경험을 이끄는 오마르 산세비에로가 프런티어 모델이 만들어지는 과정, 학위보다 하이 에이전시를 보는 채용 기준, AI 네이티브 역량, 코딩 면접의 변화, 오픈·로컬 모델의 쓰임새까지 짚는다.
핵심 내용 읽기 →
구글 딥마인드 젬마 4 분석: 오픈 모델로 얻는 소유권·주권·온디바이스 AI
구글 딥마인드가 젬마 4를 공개하며 '오픈 모델 소유권'을 강조했다. 휴대폰에서 도는 소형부터 31B까지, 데이터 주권과 비용 통제, 온디바이스 활용법을 정리했다.
핵심 내용 읽기 →