트랜스포머 vs 뇌: 피질 기둥과 연속 학습, 에너지 효율에서 드러난 AI 지능의 격차
마이크로소프트 리서치 대담에서 연구자 세 명이 트랜스포머와 인간 신피질의 구조를 맞대어 비교했다. 단일 잠재공간과 수천 개의 피질 기둥, 연속 학습의 부재, 10와트와 1메가와트라는 에너지 격차를 짚는다.
핵심 내용 읽기 →
AI TOPIC
AI효율 최신 뉴스와 핵심 해설
AI효율 관련 핵심 뉴스와 활용 인사이트 4편을 최신순으로 모았습니다.
엔비디아 네모트론(Nemotron) 오픈 모델 전략과 효율 우선 설계 총정리
엔비디아 네모트론을 이끄는 브라이언 카탄자로가 미국 오픈 AI 모델 현황, 4비트 사전학습, 하이브리드·MoE 구조, 그리고 연구 조직 운영 방식을 설명한다.
핵심 내용 읽기 →
엔비디아 새 오픈 멀티모달 AI 모델 — 처리량·비용 효율을 끌어올린 5가지 기법
이미지·영상·오디오를 모두 다루는 300억 파라미터 오픈 AI 모델이 처리량과 비용 효율에 집중했다. 실시간의 약 10배 속도를 만든 5가지 기법을 정리했다.
핵심 내용 읽기 →
LLM 지능 효율 높이기: 토큰이 아닌 컨텍스트로 비용을 줄이는 엔트로피 관점과 멀티에이전트 사례
램프(RAMP)의 벤 가이스트가 Compile 26에서 발표한 강연 정리. 모델은 똑똑해져도 효율은 떨어진다는 문제와, 전역 KV 캐시·희소 어텐션·잠재 표현 주입으로 토큰을 크게 줄인 세 가지 연구 사례를 소개한다.
핵심 내용 읽기 →