AI 에이전트 함수 호출과 MCP 작동 원리 정리, 도구 오용과 보안 위험까지 짚어보기
AI 에이전트 속에 요정은 없다. NDC 코펜하겐 강연을 토대로 함수 호출의 실제 흐름과 RAG 토큰 절감 기법, 모델이 도구를 잘못 고르거나 결과를 맹신하는 문제, 그리고 MCP의 정확한 정의를 정리했다.
핵심 내용 읽기 →
AI TOPIC
LLM 보안 최신 뉴스와 핵심 해설
LLM 보안 관련 핵심 뉴스와 활용 인사이트 4편을 최신순으로 모았습니다.
AI 자동 채점 프롬프트 인젝션 연구 정리: 답안 한 줄로 점수를 올린 공격 성공률 56.9%
미시건주립대 연구진이 LLM 자동 채점 시스템을 상대로 프롬프트 인젝션을 실험했습니다. 실제 학생 답안 3천 건과 모델 5종에서 평균 56.9%가 뚫렸고, 방어 지시문은 위험을 줄일 뿐 없애지 못했습니다.
핵심 내용 읽기 →
프롬프트 인젝션과 탈옥 완전 정리: OWASP가 꼽은 LLM 1위 위협, 공격 기법과 가드레일 방어
AI가 개발자의 규칙과 사용자의 입력을 구분하지 못하는 허점을 파고드는 프롬프트 인젝션의 원리, 역할극과 DAN 같은 탈옥 기법, 빙챗 시드니 유출과 생성형 AI 웜 사례, 가드레일의 실제 효과를 정리했다.
핵심 내용 읽기 →
AI 에이전트 시스템 설계 입문: 모델 라우팅·툴·메모리·오케스트레이션·평가
AI 에이전트는 챗봇에 LLM을 씌운 것이 아니라 프로덕션 소프트웨어 시스템이다. 모델 라우팅부터 툴·메모리·오케스트레이션·평가·보안까지 설계 핵심을 정리했다.
핵심 내용 읽기 →