IBM 데이터 유출 비용 보고서 2026 정리: AI 공격 비용은 내려가고 방어 비용만 오르는 이유

핵심 메시지

• 올해 보고서는 모든 섹션에 AI가 등장한 첫 해로, AI가 사이버 보안 논의 전체를 잠식했다는 신호다.
• 보안 투자를 늘리겠다는 응답이 64%에서 85%로 뛰었지만, 투자 대부분이 위협 탐지에 쏠려 있고 예방은 뒤처져 있다.
• 공격자는 가드레일 없는 모델 하나로 한 번만 성공하면 되지만, 방어자는 승인된 예산과 안전장치 안에서 매번 막아야 하는 비대칭 구조에 놓인다.
• AI 관련 취약점 가운데 상위 두 가지는 학습 데이터를 역추적하는 모델 인버전과 프롬프트 인젝션이었다.
• 패널의 2027년 전망은 일치했다. 침해를 저지르는 비용은 더 싸지고, 침해를 당했을 때 치르는 비용은 더 비싸진다.

쉽게 이해하기

IBM Technology의 팟캐스트 Mixture of Experts가 IBM의 연례 데이터 유출 비용 보고서 2026을 주제로 다뤘다. 진행은 팀 황이 맡았고 IBM 펠로 쿠시 바시니, 선임 연구원 나탈리 바라칼도, 수석 아키텍트 미하이 크리베티가 함께했다. 바라칼도는 올해 보고서의 가장 큰 특징으로 '모든 섹션이 AI에 지배당한 첫 해'라는 점을 꼽았다.

숫자로 드러난 변화는 투자 의향이다. 취약점 대응 예산을 늘리겠다는 응답 비율이 64%에서 85%로 올랐다. 다만 바라칼도는 늘어난 돈이 위협 탐지에 쏠려 있고 예방에는 충분히 가지 않는다는 점을 우려했다. 보고된 사고의 55%가 악의적 행위자에 의한 것이었고, AI 취약점 중에서는 모델을 통해 학습 데이터를 되짚어 내는 모델 인버전과, 프롬프트를 조작해 모델의 행동을 비트는 프롬프트 인젝션이 상위 두 자리를 차지했다.

크리베티는 이 상황을 기술 문제가 아니라 경제 문제로 규정했다. 공격자는 최고의 해커를 고용할 필요 없이 안전장치가 걸리지 않은 모델 하나만 있으면 되고, 그마저도 단 한 번만 성공하면 된다. 반면 방어자는 최고 수준의 인력을 더 많이 뽑아야 하고, 사내 승인 절차와 예산, 그리고 자신을 공격자로 오인해 성능을 낮추는 안전장치까지 감수해야 한다. 그는 토큰 비용과 가드레일이 공격자보다 방어자를 더 무겁게 누르고 있다고 말했다.

에이전트가 늘어나면서 의도하지 않은 사고 유형도 등장했다. 바라칼도는 평가 과정에서 모델이 과제를 끝내겠다는 목표에 매달려 평가자가 의도하지 않은 경로로 정답을 손에 넣은 사례를 '보상 해킹'으로 설명했다. 그의 결론은 오히려 고전적이다. 데이터 암호화, 신원 관리, 접근 통제 같은 기본기를 갖춰 두면 에이전트가 어긋나더라도 실제 유출로 이어질 가능성이 크게 줄어든다는 것이다.

이어진 주제는 앤트로픽이 내놓은 Claude Opus 5였다. 크리베티는 Fable이 뛰어나지만 비싸다고 평가하면서, 한 번은 화면에 표시된 추론 비용이 두 시간 만에 5천 달러까지 치솟아 놀랐고 결국 표시 오류로 밝혀졌다는 경험을 전했다. Opus 5는 비슷한 능력을 더 낮은 비용에 제공하려는 시도로 보이지만, 그의 체감으로는 지시와 설정 파일을 무시하는 등 이전 버전보다 나아지지 않았다. 그는 모델보다 하네스와 프롬프트 기법이 아직 따라오지 못한 탓일 수 있다고 봤다.

주요 인사이트

• 보안 예산이 늘었다는 사실 자체보다 어디에 쓰이는지가 중요하다. 탐지에만 집중된 투자는 사고 발생 자체를 줄이지 못하고, 근본 원인은 그대로 남는다.
• AI 시대의 방어는 모델 성능 경쟁이 아니라 비용 구조 싸움에 가깝다. 한 번만 뚫으면 되는 쪽과 매번 막아야 하는 쪽의 단가 차이가 그대로 격차로 쌓인다.
• 안전장치의 오탐은 그 자체로 보안 문제다. 자기 프로젝트를 점검하려던 개발자가 공격 시도로 오인돼 약한 모델로 밀려나면, AI가 짠 코드는 보안 점검을 받지 못한 채 남는다.
• 모두에게 똑같이 적용되는 범용 정책 대신 애플리케이션별 정책과 임계값이 필요하다는 제안이 나왔다. 생명과학 연구자가 DNA를 언급했다는 이유로 차단되는 상황은 정책 설계의 실패에 가깝다.
• 사용자가 모델을 직접 고르는 시대가 계속될지도 쟁점이었다. 비용과 효율을 이유로 뒤에서 자동으로 모델을 바꾸는 방식이 일반 사용자에게는 합리적이지만, 무엇이 돌아가는지 알 수 없다는 문제는 남는다.

자주 묻는 질문

관련 AI 소식