AI 안전 평가 벤치마크 만들기: 해커톤에서 나온 다크패턴·사진 위치 추론 실험 네 가지
전 세계 117명이 참여한 AI 안전 평가 해커톤의 상위 네 팀이 사이버 침투 지속성, 위험 질문 자각, 챗봇 다크패턴, 사진 한 장 위치 추론을 재는 벤치마크를 주말 동안 직접 만들어 결과와 한계를 함께 공개했다.
핵심 내용 읽기 →
AI TOPIC
다크패턴 최신 뉴스와 핵심 해설
다크패턴 관련 핵심 뉴스와 활용 인사이트 2편을 최신순으로 모았습니다.
AI 다크 패턴 벤치마크 다크벤치 정리: 챗봇이 사용자 자율성을 갉아먹는 여섯 가지 방식
아파트리서치가 만든 다크벤치는 브랜드 편향, 의인화, 스니킹, 아첨 등 대화형 AI가 사용자 자율성을 줄이는 여섯 가지 다크 패턴을 정의하고 모델별 성향을 비교 측정한 적대적 벤치마크입니다. 파리 AI 액션 서밋 발표 내용을 정리했습니다.
핵심 내용 읽기 →