오픈웨이트 AI 보안 이슈: GLM-5.2·CISA 새 우선순위 모델·vibe hunting

핵심 메시지

• 프런티어급 능력에 근접했다는 오픈 가중치 모델 GLM-5.2가 등장하면서, 방어자는 통제하는 사이 공격자는 통제 없는 오픈 모델을 손에 넣는 불균형이 부각됐다.
• 진짜 위협은 특정 모델 하나가 아니라, 거부 기능이 제거된 변형 모델과 점점 작아지면서도 취약점을 잘 찾아내는 모델들의 흐름이다.
• 미국 CISA는 CVSS 점수 대신 노출·실제 악용·자동화 가능성·완전 장악 여부의 4가지 변수로 취약점을 분류하는 새 모델(BOD 26-04)을 도입했다.
• '바이브 헌팅'은 바이브 코딩의 위협 탐지판으로, 전문가가 방향을 잡고 AI에 맡기는 '고급 조수'로 볼 때 유용하지만 기본기 없이는 놓치는 것이 많다.
• IBM과 Red Hat의 Lightwell은 오픈소스 라이브러리의 취약점을 검증·개선해 공급하는 '신뢰 인프라'를 지향한다.

쉽게 이해하기

IBM의 주간 사이버 보안 팟캐스트 'Security Intelligence'에서 X-Force와 보안 연구 부문 전문가들이 최근 화두를 실무 관점으로 풀었다. 첫 주제는 중국 Z.ai가 내놓은 오픈 가중치 모델 GLM-5.2다. 일부 영역에서 프런티어급 능력에 근접했다고 평가받는데, Meta의 보안·머신러닝 연구자 Joshua Saxe는 '진짜 보안 비상사태는 GLM-5.2'라는 글에서, 방어 측이 프런티어 모델에 접근 제한과 가드레일을 거는 동안 공격자는 잠금 없는 오픈 모델을 확보하는 위험한 불균형이 생긴다고 지적했다.

패널들은 GLM-5.2 자체보다, 거부(refusal) 기능을 무력화한 변형·추출 모델이 더 위험하다고 봤다. 이 모델은 구동에 여러 대의 고성능 GPU가 필요하지만 양자화로 크게 줄일 수 있고, 무엇보다 훨씬 작은 모델조차 프롬프트를 잘 다루면 취약점을 찾고 설명하는 데 쓸 수 있다는 점이 핵심이다. 수출 통제로 오히려 오픈 모델 쪽으로 무게가 실렸고, 방어자와 공격자가 같은 도구를 두고 경쟁하는 '일종의 AI 군비 경쟁'이 됐다는 진단이다. 결국 'AI로 AI에 맞서는' 접근이 불가피하다는 것이다.

두 번째 주제는 취약점 우선순위 체계의 변화다. 미국 CISA는 지시 BOD 26-04를 통해, 오래 쓰인 CVSS 점수 대신 네 가지 변수로 취약점을 판단하는 모델을 도입했다. ①외부에서 접근 가능한가 ②실제로 악용되고 있는가 ③악용을 자동화할 수 있는가 ④성공 시 시스템을 완전히 장악하는가이며, 답에 따라 대응 기한이 달라진다. 가장 위험한 것은 3일, 낮은 것은 정기 업그레이드까지 미룰 수 있다. 이는 연방 기관 대상 지시이지만 민간이 참고할 수 있다.

다만 전문가들은 회의적 시각도 내놨다. 그동안 CVSS와 국가 취약점 데이터베이스의 정보 갱신이 제대로 이뤄지지 않아 대규모 프로그램에서 사실상 무용했고, 복잡한 현실을 '4비트'로 압축하면 놓치는 정보가 있다는 것이다. 무엇보다 '얼마나 빨리 패치해야 하는가'를 정해도 '실제로 패치할 자원이 있는가'라는 근본 문제는 그대로다. 낮은·중간 위험이 AI로 연쇄되어 큰 위협이 되는 경우를 지금 모델이 충분히 다루는지, 3일 안에 포렌식까지 마칠 수 있는지 등도 과제로 남는다.

세 번째로 '바이브 헌팅'을 다뤘다. 계획을 세워 AI에 위협 탐지를 맡기는 방식으로, 바이브 코딩과 짝을 이룬다. 패널들은 완전 자율보다는 분류·보강을 자동화하는 '고급 조수'로 볼 때 유용하다고 봤다. 다만 좋은 소프트웨어 원칙을 모르면 바이브 코딩이 위험하듯, 위협 탐지의 기본기가 없으면 AI도 제 역할을 못 하고 근육 기억의 퇴화나 잘못된 안도감으로 이어질 수 있다고 경고했다. 마지막 꼭지에서는 Red Hat의 담당자가 IBM과 Red Hat의 Lightwell을 소개했다. 검증·개선된 라이브러리를 모아 두는 'Lightwell Network'와, 취약점 신고·검증을 처리하는 'Clearinghouse'를 축으로, 오픈소스 AI 시대의 신뢰 인프라를 만들되 여러 기관의 클리어링하우스가 어떻게 협력할지는 아직 풀어야 할 숙제라고 밝혔다.

주요 인사이트

• 가드레일과 안전장치는 규칙을 따르는 방어자에게만 유효할 뿐, 규칙을 어기는 공격자에게는 통하지 않는다는 비대칭이 오픈 모델 시대의 핵심 딜레마다.
• 위협은 개별 모델 발표를 '사건'으로 보기보다, 모델이 점점 작아지고 능력이 확산되는 '연쇄'로 볼 때 제대로 보인다.
• 취약점 우선순위를 단순화하면 소통은 쉬워지지만, 패치 자원 배분이라는 병목을 해결하지 못하면 실효성은 제한적이다.
• 바이브 코딩·바이브 헌팅 모두 자동화의 편의 뒤에 '기본 지식'이라는 전제가 숨어 있으며, 이를 간과하면 오히려 위험을 키운다.
• 패치 기한이 과거 6개월에서 72시간 수준으로 당겨지는 흐름은, 오픈소스 라이브러리 관리를 위한 검증·공급 인프라의 필요성을 키운다.

자주 묻는 질문

관련 AI 소식