AI 안전 연구: 음모형이 아닌 '점수 추종형' 모델이 만드는 재앙적 위험과 통제 전략
레드우드 리서치의 알렉스 맬런이 장기 목표를 감추는 음모형 대신, 훈련과 평가에서 점수만 잘 받으려는 AI가 어떤 경로로 재앙적 위험을 만드는지, 그리고 상호 감시와 거래 같은 통제 수단이 왜 달라지는지 정리했다.
핵심 내용 읽기 →
AI TOPIC
AI 통제 최신 뉴스와 핵심 해설
AI 통제 관련 핵심 뉴스와 활용 인사이트 2편을 최신순으로 모았습니다.
AI 통제와 컴퓨터 보안: 접근제어로 막을 수 있는 위험과 막을 수 없는 위험 정리
AI 통제 연구자 벅 슐레게리스가 AI 위험을 전통적 보안으로 어디까지 풀 수 있는지 따진다. 정적 접근제어와 다자 승인의 차이, 음모하는 AI가 깨뜨리는 가정, 샌드박스와 안전한 API로 줄일 수 있는 권한을 짚는다.
핵심 내용 읽기 →