AI 코딩이 키우는 보안 위협 3가지 — 공급망 공격·취약 코드·AI 피싱과 대응법

핵심 메시지

• AI 코딩은 개발자만 빠르게 만드는 게 아니라, 코드를 노리는 공격자도 같은 속도로 빠르게 만든다.
• 위협은 크게 세 가지다: 오염된 패키지로 번지는 공급망 공격, 보안 테스트를 통과하지 못하는 AI 생성 코드, 그리고 인간 레드팀을 능가한 AI 피싱.
• 방어의 핵심은 피로한 엔지니어의 기억에 의존하지 않도록, 검증을 파이프라인과 물리적 장치로 옮기는 것이다.
• 약 470만 명에 이르는 보안 인력 부족은 역설적으로 AI 보안 엔지니어로 커리어를 시작할 기회를 만든다.

쉽게 이해하기

발표자는 AI로 더 빨리 코딩하는 흐름이 보편화됐지만, 같은 AI가 코드를 깨려는 공격자도 매일 더 빠르게 만들고 있다는 점은 거의 주목받지 못한다고 지적한다. 그러면서 AI가 범죄자를 빠르게 만드는 상위 세 가지 방식과, 누구나 보안 엔지니어로 전환해 소프트웨어를 더 안전하게 만들 수 있는 길을 제시한다.

첫 번째 위협은 공급망 공격이다. 설치 200만 건이 넘는 VS Code 확장 NX Console이 오염됐고, 몇 분 만에 패치됐지만 자동 업데이트 탓에 수많은 기기에서 자격 증명과 비밀, 소스 코드가 유출될 수 있었다. TanStack 의존성에 대한 공급망 공격도 있었다. 이런 공격 자체는 새롭지 않지만 AI 침투 도구 덕분에 공격자가 오픈소스 프로젝트를 훨씬 쉽게 스캔하고 압박할 수 있게 됐다. NX의 사후 분석이 제시한 해법은 의존성을 특정 출처의 특정 버전으로 고정(vendoring)하고, 출시 후 일정 기간 자동 업데이트를 끄는 것이다.

두 번째 위협은 AI 코딩 도구가 지금 써 주는 코드 자체다. Veracode의 2026년 봄 업데이트는 150개 이상의 대형 언어 모델을 80개 코딩 과제로 시험했는데, AI 생성 코드의 45%가 여전히 보안 테스트에 실패했고 자바는 71%까지 실패했다. 모델이 다른 면에서 좋아지는 동안에도 보안 통과율은 2년째 거의 제자리다. 발표자는 흔히 자랑하는 '10배 빠른 코딩'이 DB 마이그레이션·트랜잭션 계층·실사용자가 있는 실제 운영 코드에는 통하지 않고 오히려 취약점을 양산한다고 본다.

공격은 수천 가지를 시도하면 되지만 방어는 검증된 몇 가지 정답만 적용해야 하므로, AI를 갖춘 공격자가 더 빠르게 움직인다. 발표자는 검증을 지친 엔지니어에게서 떼어내 파이프라인으로 옮기라고 조언한다. 모든 AI 생성 변경에 자동 보안 스캔을 돌려 고위험 항목은 병합을 막고, 코딩 에이전트에는 최소 권한만 부여하며, 운영 환경에 직접 쓰지 말라는 것이다. AI 리뷰 도구는 한계가 있어도 아예 없는 것보다 낫다.

세 번째 위협은 AI 기반 사회공학이다. Hoxhunt가 250만 사용자를 상대로 회차당 7만 건의 피싱 시뮬레이션을 돌린 결과, 2023년 3월엔 AI 피싱이 정예 인간 레드팀보다 31% 덜 효과적이었으나 2025년 3월엔 같은 AI가 23% 더 효과적이었다. 해법은 사람이 미끼를 알아채게 하는 대신 낚일 대상 자체를 없애는 것으로, 비밀번호 없이도 작동하는 패스키와 하드웨어 키 같은 피싱 저항 MFA가 제시된다. 발표자는 보안 인력이 약 470만 명 부족한 지금이 AI 보안 엔지니어로 출발할 적기라며 OWASP LLM Top 10 학습과 취약 에이전트를 직접 만들어 레드팀해 보는 실습을 권한다.

주요 인사이트

• 자동 업데이트는 편리하지만 오염된 패키지가 순식간에 수많은 기기로 퍼지는 통로가 된다. 의존성을 특정 출처·버전으로 고정하고 출시 직후 일정 기간 업데이트를 미루면 관리자가 악성 버전을 회수할 시간을 벌 수 있다.
• 모델 성능이 전반적으로 좋아져도 보안 통과율은 2년째 정체다. '빠른 코딩' 지표는 실사용자와 트랜잭션이 얽힌 운영 코드의 안전성을 보장하지 못한다.
• 공격과 방어는 비대칭이다. 공격자는 수천 가지를 시도하면 되지만 방어자는 검증된 정답만 적용해야 하므로, 검증을 개인의 기억이 아닌 파이프라인 자동 검사로 강제해야 한다.
• AI 피싱이 정예 인간 레드팀을 넘어선 상황에서는 직원 교육만으로 막기 어렵다. 비밀번호 자체가 없는 패스키·하드웨어 키로 낚일 대상을 제거하는 편이 효과적이다.

자주 묻는 질문

관련 AI 소식