에이전틱 보안 경고: AI 코딩 시대의 취약점 폭증과 대응법 — 스티브 예게 강연

핵심 메시지

• 코드 생산 속도가 10배가 되어도 결함률이 그대로면 보안 취약점의 표면적은 10배로 늘어난다 — 게다가 AI가 코드를 쓰면 결함률은 오히려 더 나빠질 수 있다.
• '슬롭 스쿼팅'처럼 LLM이 존재하지 않는 패키지명을 환각하면, 공격자가 그 이름으로 백도어 패키지를 올려 두는 새로운 공급망 공격이 이미 현실이다.
• 보안 버그는 다른 버그와 달리 시간이 지나도 저절로 덜 위험해지지 않고 오히려 누적되므로, 코드 생성 시점에 곧바로 표면화해야 한다.
• 모델은 정확성·성능·보안을 한 번에 잘 처리하지 못하므로, 보안은 별도의 '첫 패스이자 마지막 패스'로 여러 번 검토해야 한다.
• 개인 차원의 위협도 커진다: 음성·영상 복제 사기에 대비해 가족만 아는 '암호 단어'를 정해 두라고 권한다.

쉽게 이해하기

AI 엔지니어 컨퍼런스에서 스티브 예게(Steve Yegge)가 '에이전틱 보안'을 주제로 강연했다. 그는 보안 벤더 Snyk의 후원으로 참석했을 뿐 강연 대가는 받지 않았다고 밝히며, 강연의 진짜 제목은 '두려워하라(be scared)'라고 농담처럼 운을 뗀다. 한 대형 은행 보안 아키텍트가 던진 질문 — '모두가 코드를 10배 빨리 배포하는데 결함률이 그대로면 결함 표면적도 10배가 되지 않느냐' — 이 강연의 출발점이다.

크로스사이트 스크립팅 같은 기존 취약점은 AI가 여전히 만들어 내지만, 우리는 그 고치는 법을 안다. 문제는 새로운 유형이다. 대표적으로 '슬롭 스쿼팅(slop squatting)'은 LLM이 실제로 없는 패키지 이름을 환각해 설치하려 할 때, 누군가 미리 그 이름으로 겉보기엔 정상이지만 백도어가 심긴 패키지를 올려 두는 공격이다. 빌드도 테스트도 통과하기 때문에 탐지가 매우 어렵다.

구글의 테스트 자동화 경험을 인용해, 대부분의 버그는 '반감기'가 있어 시간이 지나면 덜 급해지지만 보안 취약점만은 예외라고 짚는다. 사용자가 불편을 못 느껴도 위험은 시간이 갈수록 누적된다. 따라서 결함을 코드가 만들어지는 바로 그 순간, 이제는 사람이 아니라 코드를 쓰는 LLM에게 곧바로 알려야 한다.

LLM은 벽에 페인트를 여러 번 덧칠하듯 한 번에 한 가지 작업을 시켜야 잘하며(발표자의 '5의 법칙'), 정확성과 보안을 동시에 시키면 둘 다 어설퍼진다. 그래서 보안은 별도 패스로, 그것도 첫 번째이자 마지막 검토로 넣어야 한다. LLM은 토큰을 아끼려 도구를 쓰는 성향이 있으므로, Snyk·Chain Guard 같은 보안·공급망 도구를 프롬프트의 한 단계로 붙여 서로의 결과를 교차 점검시키라고 제안한다. 그는 30년째 만든 자신의 게임에 '보안 강화 패스'를 돌린 뒤 Snyk로 스캔하자 241개의 취약점이 나왔다는 사례를 든다.

프롬프트 인젝션(사용자 입력에 '앞의 지시를 무시하라'는 식의 악성 텍스트를 끼워 넣는 공격)과, 과도한 권한을 가진 에이전트를 감시하는 '에이전트의 감시자' 같은 새 보안 직무가 부상한다고 본다. 개인적으로는 음성·영상 복제로 가족을 사칭해 돈을 요구하는 사기가 곧 흔해질 것이라며, 가족끼리 오프라인에서 '암호 단어'를 정해 두라고 조언한다. 희망적인 메시지는 아니지만, 지금 쓸 수 있는 오픈소스·상용 도구와 관행이 있다는 점이 요지다.

주요 인사이트

• 생산성 향상 자체가 보안 부채를 키운다: 같은 결함률이라도 코드량이 늘면 취약점 절대량이 비례해 늘고, AI가 짜면 결함률까지 나빠질 수 있다.
• 보안을 '나중에 리뷰에서' 처리하려는 인간의 습관은 보안 버그에는 통하지 않는다 — 위험이 누적되기 때문에 생성 시점 검출이 관건이다.
• LLM에게는 정확성·성능·코딩 규약·보안을 각각 독립된 패스로 시키는 편이 한꺼번에 시키는 것보다 결과가 낫다.
• 보안 도구를 LLM이 직접 호출하도록 프롬프트에 끼워 넣으면, 도구를 즐겨 쓰는 모델의 성향을 방어에 활용할 수 있다.
• AI 위협은 코드에만 머물지 않는다: 음성·영상 복제 사기 대비용 가족 암호 단어처럼, 개인의 신원 방어도 다층화가 필요하다.

자주 묻는 질문

관련 AI 소식