언어모델 세계 모형 검증: MIT 선형 탐침 실험이 밝혀낸 내부 상태 표현과 그 한계
MIT 제이컵 안드레아스가 언어모델이 글 속 상황의 상태를 내부에 표현하는지 선형 탐침으로 검증한 강연을 정리했다. 상태 복원 정확도와 표현 편집 실험, 그리고 공간 추론에서 드러난 한계를 함께 짚는다.
핵심 내용 읽기 →
AI TOPIC
MIT 최신 뉴스와 핵심 해설
MIT 관련 핵심 뉴스와 활용 인사이트 8편을 최신순으로 모았습니다.
강화학습이 현장에 못 쓰이는 이유와 해법, MIT 캐시 우 교수의 교통 최적화 강연
MIT 캐시 우 교수는 신호 제어 벤치마크에서 강화학습이 고정 시간 제어에도 못 미친 실험을 공개하며, 과제가 조금만 달라져도 무너지는 원인과 전이 학습·하이브리드 solver라는 해법을 제시한다.
핵심 내용 읽기 →
토마소 포지오 평전: 파리 시각 연구에서 정규화 이론과 서포트 벡터 머신, 뇌·마음·기계 센터까지
파리를 대상으로 한 시각 실험에서 출발해 정규화 이론과 학습의 안정성, 서포트 벡터 머신, 그리고 지능 자체를 묻는 연구소 설립까지 이어진 토마소 포지오의 궤적을 AI가 생성한 대담 형식으로 따라간 기록이다.
핵심 내용 읽기 →
딥러닝 이론의 열린 질문들 — 표현의 수렴, 모듈성, 사고 과정 감독에 대한 MIT 패널 토론
MIT 뇌·마음·기계 센터 패널이 학습 이론의 미해결 문제를 논한다. 서로 다른 모델이 같은 표현으로 수렴하는 현상, 범주를 담는 다양체의 기하학, 생물학의 모듈성, 과정 감독의 효율과 뇌의 학습 규칙 문제를 다룬다.
핵심 내용 읽기 →
데이터 어트리뷰션으로 알츠하이머 하위집단 찾기, MIT 데이터모델 기법 튜토리얼 정리
MIT 박사과정 연구자가 데이터모델 기법을 소개한 튜토리얼 정리. 수만 개의 가벼운 분류기를 훈련해 어떤 훈련 표본이 예측에 영향을 주는지 되짚고, 그 구조에서 알츠하이머 환자의 하위집단을 찾아낸다.
핵심 내용 읽기 →
LLM 사후학습 완전정리: 파인튜닝·DPO·모델 병합·평가까지 MIT 6.S191 강의 요약
사전학습을 마친 기본 모델을 쓸 만한 조수로 바꾸는 사후학습 전 과정을 MIT 6.S191 강의로 정리했다. 데이터 품질 3원칙, LoRA와 DPO, 모델 병합, 평가 방법과 테스트타임 컴퓨트까지 짚는다.
핵심 내용 읽기 →
MIT 6.S191 AI for Science 강연 정리: 딥러닝 에뮬레이터가 과학 시뮬레이션을 수천 배 앞당기는 법
크리스 비숍이 MIT 딥러닝 강의 6.S191에서 소개한 'AI 에뮬레이터'. 시뮬레이터로 만든 합성 데이터를 학습해 날씨 예보와 신약·소재 탐색을 수천 배 앞당기는 접근, 그리고 밀도범함수이론에 남은 마지막 난제를 정리했다.
핵심 내용 읽기 →
AI 에이전트 웹과 Project Nanda: 에이전트를 위한 열린 인프라 정리
MIT 미디어랩의 Project Nanda가 제안하는 '에이전트 웹' 구상을 정리했다. 수많은 AI 에이전트가 서로를 발견하고 신뢰하며 거래하는 개방형 인프라의 개념과 구성 요소를 살펴본다.
핵심 내용 읽기 →