블랙햇 2026 현장 정리: AI가 조율하는 자동화 공격은 시끄럽지만 이미 현실이 됐다

핵심 메시지

• AI가 공격을 조율하는 완전 자동 공격은 가정이 아니라 이미 관측되는 현실이라는 진단이 나왔다.
• 현재의 AI 공격은 요란하고 눈에 잘 띄어 미끼 시스템에 쉽게 걸리지만, 조용히 움직이는 사례도 보고되기 시작했다.
• 올해 행사의 분위기는 AI에 대한 기대 홍보에서 실제 운영으로 옮겨갔다.
• 미국 상수도 시설을 노린 공격처럼 복잡하지 않은 수법의 기반시설 위협은 여전히 반복된다.
• 자산 파악, 접근 통제, 최소 권한 같은 오래된 기본기가 AI 시대에도 그대로 유효하다는 결론이다.

쉽게 이해하기

보안 매체 테크타깃의 편집장 섀런 셰이가 블랙햇 2026을 직접 취재하고 돌아와 현장 분위기를 전했다. 그는 올해 행사가 여러 AI 모델과 관련한 사고가 잇따른 직후에 열린 탓에 보안 업계의 흐름이 바뀌는 분기점처럼 느껴졌다고 말했다. 행사 시점에는 충격이 어느 정도 가라앉아, 무슨 일이 일어났는지 따져보고 무엇을 고쳐야 하는지 논의하는 자리가 많았다는 설명이다.

가장 눈에 띈 변화는 AI가 공격을 조율하는 완전 자동화 공격을 '가능성'이 아니라 '현실'로 다루기 시작했다는 점이다. 한 세션에서는 이를 분수령이라고 표현했고, 업계 전반이 AI 에이전트와 그 통제 수단을 어떻게 마련할지 논의했다. 편집장은 그럼에도 현장 분위기가 절망적이지는 않았고, 함께 원인을 밝히고 해결하려는 협력 기조가 강했다고 전했다.

현재 관측되는 AI 기반 공격의 특징도 정리됐다. 여러 취재원이 공통으로 언급한 표현은 '시끄럽고 요란하지만 은밀하지는 않다'였다. 목적한 행동을 밀어붙일 뿐 흔적을 감추려 하지 않아 미끼 시스템이나 함정에 쉽게 걸린다는 것이다. 다만 위협 추적 업체 관계자로부터 국가 배후로 추정되는 조직이 천천히 조용하게 움직인 첫 사례를 들었다며, 앞으로 더 정교하고 은밀해질 것이라고 내다봤다.

대응 전략으로는 패치 관리의 우선순위 조정이 언급됐다. 미국 사이버보안 당국이 연방 기관을 대상으로 위험이 가장 큰 취약점을 짧은 기한 안에 처리하고 심각도가 낮은 항목은 미룰 수 있도록 한 지침이 기업에도 참고가 된다는 것이다. 정식 패치가 나오기 전 임시 조치를 적용하는 이른바 가상 패치도 주목받는 흐름으로 소개됐다.

AI에 가려지기 쉬운 오래된 위협도 여전하다. 미국 여러 주의 상수도·하수 처리 시설이 인터넷에 연결된 제어 장치를 통해 공격당한 사건이 대표적이다. 복잡한 기술이 필요하지 않은 공격이었지만 운영자가 시스템에서 잠기고 수동 작업으로 되돌아가야 했다. 편집장은 결국 자산 가시성 확보, 접근 통제, 다중 인증과 최소 권한 같은 기본기가 AI 시대에도 그대로 답이 된다고 정리했다.

주요 인사이트

• AI 공격이 아직 은밀하지 못하다는 점은 방어 측에 남은 시간이며, 미끼와 함정 같은 기존 탐지 수단이 당분간 유효하게 작동한다.
• AI 기능이 별도 제품이 아니라 모든 보안 도구에 기본으로 들어가면서, 조직의 과제가 'AI 도입 여부'에서 '무엇이 어떻게 쓰이는지 파악하기'로 옮겨갔다.
• 에이전트를 누가 책임지고 감시할 것인지에 대한 논의가 늘었다. 사고 원인을 AI에 떠넘길 수 없다는 문제의식이다.
• 인터넷에 연결하도록 설계되지 않은 노후 제어 장비는 다중 인증과 암호화를 지원하지 않아 낮은 난도의 공격에도 그대로 노출된다.
• 에이전트 주변을 감싸는 통제 장치가 새 화두로 떠올랐지만, 아직 업계 안에서도 정의가 정리되지 않은 단계다.

자주 묻는 질문

관련 AI 소식