Project Glasswing — AI로 세계 소프트웨어 취약점을 찾는 앤트로픽 프로젝트

핵심 메시지

• 코드를 잘 쓰는 AI 모델은 같은 능력으로 소프트웨어의 버그를 찾고 악용할 수도 있어, 방어자와 공격자 양쪽의 역량을 동시에 끌어올린다.
• 앤트로픽의 새 모델 Claude Mythos Preview는 사이버보안에 특화 훈련을 하지 않았는데도 코드를 잘 다루는 부수효과로 전문 인간 수준의 버그 식별 능력을 보였다.
• 이 모델은 단독으로는 위력이 약한 취약점 서너 개를 연쇄로 엮어 정교한 공격을 만들 만큼 자율적이라, 널리 공개하지 않기로 했다.
• Project Glasswing은 세계의 핵심 코드를 운영하는 조직들에 이 도구를 먼저 쥐어줘 취약점을 미리 찾고 고치게 함으로써 모두에게 선점 효과를 주려는 시도다.

쉽게 이해하기

대부분의 사용자는 매일 쓰는 소프트웨어의 버그를 의식하지 않는다. 발견되면 곧 고쳐지기 때문이다. 그러나 많은 제품과 웹사이트가 함께 쓰는 공유 소프트웨어에 단 하나의 취약점이 끼어들면, 그 문제가 전 세계로 증폭되며 심각한 영향을 줄 수 있다. 문제는 취약점을 찾아 패치하는 일이 역사적으로 느리고 비싸며 시간이 많이 드는 과정이라는 점이다.

LLM이 세계 최고 수준의 개발자처럼 코드를 쓸 수 있게 되면서, 같은 능력이 버그를 찾고 악용하는 데에도 똑같이 효과적으로 쓰일 수 있게 됐다. 앤트로픽은 이런 모델이 방어자뿐 아니라 잠재적 공격자에게도 도움이 될 수 있어 사이버보안의 기준선을 끌어올린다고 본다.

최근 개발한 Claude Mythos Preview는 사이버보안 능력에서 두드러진 도약을 보였다. 사이버를 위해 따로 훈련한 것이 아니라 코드를 잘하도록 훈련한 결과의 부수효과였다. 이 모델은 버그 식별에서 대체로 전문 인간 수준이며, 인간 보안 연구자가 하루 종일 수행할 법한 장기 작업을 자율적으로 밀고 나가는 데 강했다. 특히 각각으로는 큰 위력이 없는 취약점 서너 개, 때로는 다섯 개를 순서대로 엮어 정교한 결과를 만드는 연쇄 능력을 보였다.

이런 능력은 잘못된 손에 들어가면 해를 끼칠 수 있어, 앤트로픽은 이 모델을 널리 배포하지 않기로 했다. 앞으로 더 강력한 모델이 앤트로픽과 다른 곳에서 나올 것이므로 대응 계획이 필요하다는 판단 아래, 세계의 가장 중요한 코드를 운영하는 여러 조직과 손잡아 이들이 모델로 위험을 낮추는 방법을 찾도록 하는 Project Glasswing을 시작했다.

파트너들과 협력하며 사실상 모든 주요 플랫폼에서 취약점을 찾아냈다. 인터넷 인프라의 기반인 운영체제를 먼저 겨냥했는데, OpenBSD에서는 27년간 존재해 온 버그를 발견해 몇 개의 데이터만으로 서버를 다운시킬 수 있었고, 리눅스에서는 권한 없는 사용자가 특정 바이너리 실행만으로 관리자 권한을 얻는 취약점들을 찾았다. 발견한 버그는 소프트웨어를 운영하는 메인테이너에게 알려 패치가 배포되도록 했다.

주요 인사이트

• 코드 능력과 사이버보안 능력은 분리되지 않는다. 코드를 잘하도록 훈련하면 취약점을 찾고 연쇄하는 능력이 부수효과로 따라온다.
• 취약점 '연쇄(chaining)'는 개별로는 사소한 결함들을 묶어 위협으로 키우는 능력으로, 자율적이고 장기 과제를 수행하는 모델에서 특히 위력적이다.
• 강력한 공격 능력을 가진 모델을 널리 배포하지 않고 핵심 인프라 운영자에게 먼저 제공하는 것은, 방어 측에 선점 효과를 주려는 전략적 선택이다.
• 사이버보안은 곧 사회의 안보이며, 어떤 단일 조직도 전체 그림을 볼 수 없으므로 산업 간·정부 간 협력이 필수적이라는 것이 이 프로젝트의 전제다.

자주 묻는 질문

관련 AI 소식