과학용 파운데이션 모델과 토크나이저: 은하 이미지 64만 장으로 비교한 4가지 토큰화 방식
스탠퍼드 물리·AI 콘퍼런스 발표 정리. 은하 이미지 64만 장과 같은 트랜스포머 백본으로 네 가지 토크나이저를 비교한 결과, 이미지를 잘 복원하는 방식과 물리량을 잘 담아내는 방식이 서로 달랐다.
핵심 내용 읽기 →
AI TOPIC
머신러닝 연구 최신 뉴스와 핵심 해설
머신러닝 연구 관련 핵심 뉴스와 활용 인사이트 7편을 최신순으로 모았습니다.
AI 정렬 연구자 조엘 레만이 말하는 웰빙 기반 긍정적 AI 비전과 추천 시스템의 숙제
머신러닝 연구자 조엘 레만은 AI가 '원하는 것'만 잘 주는 방향으로 최적화되면 이해와 관계가 밀려난다고 본다. 웰빙에서 출발한 긍정적 AI 비전과, 굿리즈 서평으로 인생을 바꾼 책을 찾으려 한 추천 실험의 난제를 정리했다.
핵심 내용 읽기 →
Adam과 Muon의 차이를 만드는 것은 기하다: 딥러닝 옵티마이저 이론을 정리한 TTIC 연구 발표
TTIC 연구 발표에서 즈위안 리 교수가 Adam이 SGD보다 빠른 이유를 좌표축에 묶인 기하로 설명하고, 스펙트럴 노름을 쓰는 Muon과 적응형 매끄러움 개념까지 딥러닝 최적화 이론의 최신 지형을 정리했다.
핵심 내용 읽기 →
모델 붕괴란 무엇인가: AI 생성 데이터로 재학습할 때 성능이 무너지는 이유와 연구 쟁점 정리
인터넷이 AI가 쓴 글로 채워지면 다음 세대 AI는 무엇을 배우게 될까. 머신러닝 연구자가 논문 열두 편을 훑어 '모델 붕괴'의 정의와 학습 가정이 갈리는 지점을 정리하고, 자기 출력으로 학습한 모델이 무엇을 잃는지와 붕괴를 피할 조건을 짚었다.
핵심 내용 읽기 →
희소 시점 3D 가우시안 스플래팅 물리 학습: 카메라 3대로 동적 장면 복원하기 (팀 프로젝트 발표)
카메라 25대가 필요하던 동적 3D 장면 복원을 3~5대로 줄인 대학 수업 팀 프로젝트 발표. 가우시안마다 속도와 가속도를 안정적으로 학습시키는 단계별 최적화, 정규화, 점진적 물리 학습 방법을 설명한다.
핵심 내용 읽기 →
약지도 비디오 이상탐지 정리: MIL 랭킹에서 CLIP-TSA, VadCLIP, DSANet까지
영상 전체 라벨만으로 이상 구간을 찾는 약지도 비디오 이상탐지 연구를 고려대 DMQA 공개 세미나 내용으로 정리했다. MIL 랭킹으로 문제를 정식화한 초기 연구부터 CLIP과 텍스트 정렬을 쓰는 최신 기법까지 짚는다.
핵심 내용 읽기 →
선호 기반 강화학습 PbRL 정리 — SeqRank, LiRE, CPL로 보는 사람 피드백 학습법
복잡한 보상 함수 설계 없이 사람의 비교 판단만으로 에이전트를 학습시키는 선호 기반 강화학습을 정리했다. 질의를 순차적으로 뽑아 피드백 효율을 올리는 두 방법과, 보상 함수 자체를 없애는 방법을 살펴본다.
핵심 내용 읽기 →