LLM 보안 위협: 언어모델이 찾아낸 리눅스 커널 제로데이와 오픈소스 CMS 취약점, 공격 자동화 속도

핵심 메시지

• 최신 언어모델은 정교한 도구 없이도 중요한 소프트웨어에서 제로데이 취약점을 스스로 찾아내고 익스플로잇까지 작성한다.
• 발표자는 오픈소스 CMS 고스트에서 프로젝트 역사상 첫 치명적 취약점(블라인드 SQL 인젝션)을, 리눅스 커널 NFS 데몬에서는 2003년부터 남아 있던 힙 버퍼 오버플로를 모델로 찾아냈다.
• 불과 반 년 전 모델은 같은 취약점을 거의 찾지 못했고, 최근 서너 달 사이 출시된 모델만 성공했다는 점에서 능력 상승 속도가 가파르다.
• 공격과 방어의 균형이 20년 만에 흔들리고 있으며, 발표자는 최종적으로는 방어자가 유리해지겠지만 지금의 과도기가 가장 위험하다고 봤다.
• 안전장치가 너무 약하면 선의의 사용자만 막고, 너무 강하면 방어자가 도구를 쓰지 못한다는 이중용도의 딜레마가 남는다.

쉽게 이해하기

앤트로픽 소속 보안 연구원 니콜라스 칼리니가 보안 컨퍼런스 [un]prompted 2026에서 '블랙햇 언어모델'이라는 주제로 발표했다. 공격을 부추기려는 것이 아니라, 악의를 가진 사람이 언어모델로 무엇을 할 수 있는지 먼저 파악해야 그것을 막을 수 있다는 문제의식에서 출발한 연구다. 그가 청중에게 남긴 결론은 단순하다. 오늘날의 모델은 이미 중요한 소프트웨어에서 알려지지 않은 취약점을 스스로 찾아낼 수 있고, 그 능력은 빠르게 좋아지고 있다는 것이다.

사용한 방법은 놀라울 만큼 단순했다. 가상머신 안에서 권한 제약을 풀어둔 채 코딩 에이전트를 돌리고, 'CTF 문제를 푸는 중이니 취약점을 찾아 가장 심각한 것을 파일로 정리하라'고 지시한 뒤 자리를 비우는 식이다. 다만 그대로 두면 같은 버그만 반복해서 찾고 코드 전체를 훑지 않는 한계가 있어, '이 파일을 살펴보라'는 힌트 한 줄을 파일마다 바꿔 넣어 프로젝트 전체를 훑게 했다.

결과로 나온 사례 두 가지가 인상적이다. 하나는 깃허브 별 5만 개가 넘는 콘텐츠 관리 시스템 고스트에서 나온 SQL 인젝션이다. 응답 내용을 볼 수 없는 블라인드 형태여서 실제 악용 가능성이 불확실했는데, 모델이 작성한 익스플로잇은 인증 없이 운영 데이터베이스의 관리자 API 키와 비밀값, 비밀번호 해시를 그대로 읽어냈다. 발표자는 자신이 코드를 한 줄도 쓰지 않았다고 밝혔다.

다른 하나는 리눅스 커널의 NFS 데몬에서 발견된 원격 힙 버퍼 오버플로다. 클라이언트 두 개가 협력해 잠금을 요청하도록 만들면, 거부 응답에 앞선 클라이언트가 넣어둔 1024바이트 소유자 정보가 112바이트 버퍼로 복사되는 구조였다. 퍼징으로는 찾기 어려운 종류의 논리적 흐름이고, 문제의 코드는 깃 도입 이전인 2003년부터 커널에 남아 있었다. 발표 자료의 공격 흐름도조차 모델이 만든 보고서에서 그대로 옮겨온 것이었다.

칼리니는 이 능력의 상승 곡선을 강조했다. 반 년 전과 1년 전 모델은 같은 버그를 거의 찾지 못했고, 최근 몇 달 사이 나온 모델만 해낸다. 스마트 컨트랙트를 대상으로 모델이 회수해낼 수 있는 금액을 측정한 동료들의 연구에서도 로그 축 위에서 상승세가 관측됐다. 그는 지수적 성장이 영원할 수 없다는 점은 인정하면서도, 꺾이는 시점을 예측할 수 없다는 이유로 지금 대비해야 한다고 말했다.

주요 인사이트

• 모델의 '기본 능력'을 기준으로 위협을 평가해야 한다는 관점이 핵심이다. 공격자가 몇 달씩 정교한 도구를 만들 필요 없이 지시 한 줄로 결과를 얻는다면, 공격 비용이 사실상 사라진다.
• 취약점 발견보다 익스플로잇 작성 자동화가 실질적 변화를 만든다. 발표자는 고스트 사례에서 자신도 만들 수는 있었겠지만 상당한 숙련이 필요했을 공격 코드를 모델이 대신 완성했다고 평가했다.
• 발표자는 양자컴퓨터가 아직 없는데도 암호학자들이 양자내성 암호를 연구한다는 점을 들어, 눈앞에 이미 존재하는 위협을 부정하는 보안 업계의 태도를 지적했다.
• 국제에너지기구가 해마다 태양광 보급을 과소예측해 온 그래프를 인용하며, 현재 속도가 유지될 것이라 가정하는 예측이 반복적으로 틀렸다는 점을 경고 사례로 들었다.
• 취약점 보고 체계 자체가 병목이 된다. 발표자는 검증하지 못한 크래시가 수백 건 쌓여 있어 오픈소스 관리자에게 넘기지 못하고 있다며, 검증과 처리 절차를 손봐야 한다고 말했다.

자주 묻는 질문

관련 AI 소식