2026 사이버보안 트렌드: 섀도 AI·딥페이크·AI 에이전트·양자 암호 위협

핵심 메시지

• 승인 없이 도입되는 '섀도 AI'는 데이터 유출 시 평균 67만 달러의 추가 비용을 부르지만, 조직의 60%는 이를 막을 AI 거버넌스·보안 정책이 없다.
• 딥페이크는 2023년 약 50만 건에서 2025년 800만 건으로 1500% 늘었으며, 탐지보다 '무엇을 시키려 하는지'를 의심하도록 사람을 교육하는 쪽으로 대응 방향이 바뀌어야 한다.
• AI 에이전트는 생산성 증폭기인 동시에 위험 증폭기로, 에이전트를 노리는 공격(제로클릭 프롬프트 인젝션 등)과 에이전트를 악용한 공격(피싱·랜섬웨어 자동화) 양쪽이 모두 늘어난다.
• 대규모 언어 모델 취약점 1위는 2023년과 2025년 모두 '프롬프트 인젝션'이었고, IBM은 이를 탐지·방어하는 AI 제품으로 맞불을 놓고 있다.
• 양자 컴퓨팅이 기존 암호를 깨는 'Q-데이'가 다가오고 있어, 지금 양자안전(포스트양자) 암호로 전환을 시작해야 하며 패스키 같은 피싱 저항 인증도 대안으로 자리잡고 있다.

쉽게 이해하기

IBM 테크놀로지 채널은 매년 연말 한 해의 사이버보안을 돌아보고 이듬해를 전망하는 영상을 낸다. 발표자는 2025년 예측이 대체로 들어맞았다며, 특히 AI가 보안에 양날의 검이 됐다고 평가한다. 좋은 쓰임도 많지만 보안 관점에서는 AI가 우리를 겨냥하는 부정적 측면에 주목한다.

첫 번째 위협은 '섀도 AI'다. 누구의 승인도 없이 누군가 클라우드에 모델을 올려 쓰기 시작한 사례를 말하는데, IBM의 데이터 유출 비용 보고서에 따르면 섀도 AI가 얽힌 유출은 평균 67만 달러의 비용을 더 발생시켰다. 문제는 조직의 60%가 이를 막을 AI 거버넌스나 보안 정책을 갖추지 못했다는 점이다. 딥페이크 역시 급증해, 관측·분류된 사례가 2023년 약 50만 건에서 2025년 800만 건으로 1500% 늘었다.

AI는 공격 도구로도 쓰인다. 취약점을 찾아 익스플로잇을 생성하고, 시간이 지나며 스스로 형태를 바꿔 탐지가 어려운 '다형성(polymorphic) 악성코드'를 만들어낸다. 공격자의 진입 장벽은 낮아지고 방어는 더 어려워진다. 또 기업이 업무에 AI를 도입하면서 공격 표면 자체가 넓어졌고, OWASP가 꼽은 대규모 언어 모델 취약점 1위는 2023년과 2025년 모두 '프롬프트 인젝션'이었다. 긍정적으로는, IBM이 프롬프트 인젝션을 탐지·방어하는 AI 제품을 내놓는 등 AI로 AI 공격을 막는 흐름도 시작됐다.

올해 발표자가 가장 비중을 둔 주제는 AI 에이전트다. 그는 에이전트를 '에이전트를 노리는 공격'과 '에이전트를 이용한 공격' 두 갈래로 나눈다. 에이전트는 목표를 주면 알아서 일을 처리하는 자율 AI라 생산성 증폭기이지만, 탈취되면 의도치 않은 일을 빛의 속도로 수행하는 위험 증폭기가 된다. 예컨대 이메일 본문에 숨긴 간접 프롬프트 인젝션을 에이전트가 요약하다 읽고 그대로 따라 데이터를 빼내는 '제로클릭' 공격, 사람과 결부되지 않은 비인간 신원(non-human identity)의 급증, 권한 상승 문제 등이 거론된다.

반대로 공격자는 에이전트로 초개인화된 피싱 메일을 자동 제작하고, 다형성 악성코드를 대량 생성해 시험하며, 랜섬웨어의 제작·협박·암호화·금전 수취까지 전 과정을 자동화한다. 표적 정찰부터 취약점 탐색·익스플로잇 실행·데이터 탈취에 이르는 '킬 체인' 전체가 자동화되고, 딥페이크를 결합한 사회공학 공격도 더 정교해진다. 발표자는 딥페이크 탐지에 매달리기보다, 사람들이 '이 요청이 무엇을 시키려는가'를 의심하도록 훈련해야 한다고 조언한다.

AI는 교육·예술·음악·마케팅·코딩 등 사회 전반에 더 깊이 파고든다. 교육은 AI를 막기보다 받아들여야 하고, 코딩 일자리는 줄겠지만 사라지진 않는다. AI와 무관한 주제로는 패스키(FIDO 얼라이언스)를 강조하는데, 비밀번호를 대체하는 더 안전하고 피싱에 강한 방식으로 대상 계정의 93%가 적용 가능하고 3분의 1이 이미 활성화했다고 전한다. 끝으로 그는 미래 보고서에서 '양자 컴퓨팅의 암호 해독'이 데이터 유출의 주요 원인으로 꼽혔다는 가상의 고백을 곁들이며, 지금 양자안전(포스트양자) 암호 전환을 시작하라고 당부한다.

주요 인사이트

• 섀도 AI의 진짜 문제는 기술이 아니라 거버넌스 공백이다. 비용은 이미 오르는데(유출당 +67만 달러) 조직 60%가 정책조차 없다는 점이 핵심 위험이다.
• 에이전트는 '생산성 증폭기'와 '위험 증폭기'가 동전의 양면이다. 사람이 하던 실수를 분당 1만 건 속도로 저지를 수 있으므로, 에이전트에 사용자와 같은 권한을 그대로 주는 관행은 위험하다.
• 딥페이크 탐지 기술에 투자하기보다, 탐지가 결국 따라잡지 못한다는 전제 아래 '딥페이크가 무엇을 시키려 하는지'에 주목하도록 사람을 교육하라는 조언이 실용적이다.
• 프롬프트 인젝션이 2년 연속 LLM 취약점 1위라는 사실은, AI 도입이 곧 새로운 공격 표면임을 보여준다. 방어 역시 AI(프롬프트 인젝션 탐지)로 맞서는 시대다.
• 양자 위협은 '아직 먼 일'이 아니라 지금 대비를 시작해야 하는 문제다. 관심은 늘었지만 실제 양자안전 암호 배포는 부족하다는 점이 경고 신호다.

자주 묻는 질문

관련 AI 소식