로절린드 피카드 옥스퍼드 강연: 모래 위의 AI와 바위 위의 AI, 설명 충실성 연구가 드러낸 것
MIT 미디어랩 로절린드 피카드 교수가 옥스퍼드 시빅 AI 콘퍼런스 기조강연에서 인터넷을 통째로 삼킨 거대 모델과 규제를 토대로 쌓아 올린 의료 AI를 대비하며, 모델의 설명 충실성을 인과적으로 검증한 실험 결과를 공개했습니다.
핵심 내용 읽기 →
AI TOPIC
설명가능성 최신 뉴스와 핵심 해설
설명가능성 관련 핵심 뉴스와 활용 인사이트 3편을 최신순으로 모았습니다.
AI 아키텍처를 결정하는 것은 위험 — IBM의 위험 적합 설계와 설명가능성 3단계
AI를 쉽게 만들 수 있는 시대일수록 '위험에 맞는' 설계가 중요하다. IBM이 설명하는 데이터·정보·지식의 차이와, 설명가능성을 기준·강화·엄격 세 단계로 운영화하는 방법을 정리했다.
핵심 내용 읽기 →
영리한 한스 효과와 AI 음악 분류 — 모델이 음악을 이해하지 못하는 이유
20세기 초 '영리한 한스' 말 이야기에서 출발해, AI 음악 분류기가 음악이 아니라 엉뚱한 주파수 패턴에 반응하는 '지름길 학습'을 어떻게 증명하는지 Computerphile이 설명한다.
핵심 내용 읽기 →