AI 칩 물리 보안: 레이저 프로빙과 하드웨어 임플란트, 그리고 연산량 검증 퍼즐

핵심 메시지

• AI 칩은 더 빠르고 비쌀 뿐, 다른 칩이 겪는 하드웨어 보안 문제에서 예외가 아니다.
• 레이저 전압 프로빙으로 다이 위 개별 트랜지스터의 0과 1을 읽어낼 수 있어, 비밀을 실리콘에 새기면 안전하다는 통념은 성립하지 않는다.
• 보드에 작은 칩을 심어 시큐어 부트를 우회하는 하드웨어 임플란트는 이론이 아니라 실제로 피해 기업이 존재하는 문제다.
• 기존 방어책인 물리 인클로저는 발열과 호환성 때문에 최신 AI 시스템에 그대로 쓰기 어려워, 연구팀은 임피던스 변화를 읽는 소형 센서를 GPU 보드에 통합하고 있다.
• 센서가 모두 뚫린다고 가정해도, 연산과 메모리를 실제로 얼마나 쓰는지는 암호 퍼즐의 응답 시간으로 검증할 수 있다.

쉽게 이해하기

FAR.AI 행사 무대에 오른 샤힌 타지크는 13년간 칩의 물리 보안을 연구해 온 전기공학자로 자신을 소개했다. 그의 출발점은 단순하다. AI 칩과 AI 시스템은 더 발전했고 전력을 많이 먹고 훨씬 비싸다는 차이가 있을 뿐, 다른 칩이 겪는 물리 보안 문제에서 면제되지 않는다는 것이다. 특히 자금과 인력, 최첨단 장비를 모두 갖춘 국가급 공격자를 상정하면 평소의 가정은 대부분 무너진다.

그는 이런 공격자가 리버스 엔지니어링과 현미경 분석을 위한 고장 분석 장비, 정보를 빼내거나 오작동을 유발하는 전자기·RF·마이크로파 장비를 자유롭게 쓴다고 설명했다. 위협의 주체가 국가만은 아니라는 점도 짚었다. 강력한 모델을 여러 고객에게 제공하는 상황에서, 자금과 자원을 갖춘 고객 중 하나가 시스템을 변조해 모델을 더 공격적으로 바꾸려 든다면 같은 문제가 된다는 것이다.

가장 인상적인 대목은 '비밀을 실리콘 안에 넣으면 안전하다'는 통념을 정면으로 반박하는 부분이다. 그의 연구실은 매주 레이저 전압 프로빙이라 불리는 광학 공격을 수행한다. 칩에 레이저를 쏘고 반사된 빛을 측정하면 다이 위의 트랜지스터가 밝은 점으로 드러나고, 각 트랜지스터가 저장한 값이 0인지 1인지 특성화할 수 있다. 거대한 현미경 아래 GPU를 올려놓고 다이를 촬영한 뒤, 광자 방출 분석과 레이저 전압 이미징으로 위치를 좁히고 최종적으로 비밀 정보를 뽑아내는 흐름이다.

공격자가 항상 그 수준까지 갈 필요도 없다. 그는 아마존 시스템의 메인보드에 아주 작은 마이크로컨트롤러가 심어졌다는 블룸버그 보도를 예로 들었다. 관계자들이 곧바로 부인했지만, 몇 달 뒤 한 해커가 그런 스파이 칩을 심어 시큐어 부트를 우회할 수 있음을 저비용으로 보여 줬다. 이후 핀란드의 한 기업은 시스코 라우터를 포함해 문제가 훨씬 광범위하다는 보고서를 냈고, 인터넷에는 기판 중간층에 스파이 부품을 숨기는 취미 프로젝트까지 공개돼 있다. 그는 지난 5~6년간 실제로 이런 임플란트에 당한 영리·비영리 기업들과 함께 일해 왔다며 이것이 현실의 문제라고 강조했다.

그렇다면 방어는 어떻게 해야 하나. 그는 칩이나 시큐어 부트 자체에 너무 많은 것을 기대하지 말고, 공격이 실행되기 전에 위협을 탐지하자고 제안한다. 앞선 사례로는 배터리로 센서를 돌려 드릴이 들어오면 모든 자산을 지워 버리는 IBM의 PCIe 하드웨어 보안 모듈, 독일 프라운호퍼 연구소가 제안한 물리적 복제 불가 함수 기반 인클로저, 막스플랑크 연구소의 안티탬퍼 라디오, 그리고 기밀로 묶여 정보가 거의 없는 MIT 링컨연구소의 도파관 방식이 언급됐다. 문제는 이런 인클로저가 발열을 유발하거나 레거시 시스템과 맞지 않고, 현대 AI 시스템에는 적용하기 어렵다는 점이다.

그래서 그의 팀이 택한 방향은 센서를 작게 만들어 칩 위에 얹는 것이다. 측정 대상은 회로의 가장 기본적인 성질인 임피던스다. 공격자가 무엇을 하든 무언가를 붙이거나 떼어 내야 하고, 그 순간 임피던스가 달라진다. 프로브를 칩 가까이 대거나, 실리콘에 접근하려고 칩 뒷면을 연마하거나, 팬과 히트 스프레더를 뜯어내는 행위 모두 탐지 가능하다는 것을 보였다고 한다. 현재 이 센서를 GPU 보드에 통합하는 작업이 진행 중이며 아직 상용화되지는 않았다.

마지막 층위는 센서가 모두 무력화되는 최악의 경우를 가정한다. 예컨대 강력한 GPU를 다른 나라나 고객에게 팔면서 연산 능력의 70%까지만 쓰도록 계약하고 펌웨어로 제한했다고 하자. 상대가 충분히 강력하다면 펌웨어와 보안 장치를 변조할 수 있다. 그가 주목한 것은 공격자도 어쩌지 못하는 대상, 즉 연산과 메모리 자체가 유한하다는 사실이다. 일정한 연산량과 메모리를 반드시 소모하는 암호 퍼즐을 던지고 답이 돌아오는 시간을 재면, 예상보다 오래 걸릴 때 뭔가 다른 일을 하고 있다는 신호가 된다.

이런 퍼즐은 새로 만든 개념이 아니라 암호화폐 쪽에서 알려진 검증 가능 지연 함수, 작업 증명, 메모리 하드 함수 같은 구성 요소를 활용한다. 실제로 대학이 보유한 엔비디아 H100에서 실험한 결과, 행렬 곱셈 퍼즐과 작업 증명을 돌렸을 때 아무 모델도 돌지 않는 경우, 아주 작은 모델이 도는 경우, Qwen 2.5가 학습 중인 경우가 뚜렷하게 구분됐다. 메모리 하드 함수로 VRAM 점유 여부를 확인한 실험에서도 메모리를 쓰는 상태와 쓰지 않는 상태의 계산 시간 차이가 분명했고, 관련 논문은 arXiv에 공개돼 있다.

발표는 레드팀의 현실적인 제약으로 마무리됐다. 이런 검증에는 값비싼 장비와 계측기가 필요한데, 미국의 국립연구소나 연방정부 연구개발센터에는 있어도 기밀 시설이라 외부 연구자와 공유되지 않는다. 엔비디아, 인텔, 삼성, AMD 같은 반도체 기업도 장비를 갖고 있지만 문제를 풀려는 연구자에게는 너무 비싸다. 그는 자신이 속한 WPI처럼 기밀 제약 없이 장비와 인력을 갖춘 대학이 이 공백을 메울 수 있다고 말하며 발표를 끝냈다.

주요 인사이트

• 하드웨어 보안 논의에서 '칩 안에 넣으면 안전하다'는 전제는 공격자의 예산이 커지는 순간 무너진다. 트랜지스터 단위 관측이 연구실에서 매주 반복되는 일이라는 사실이 그 증거다.
• 보드 레벨 임플란트는 언론 보도의 진위와 별개로 재현 가능성이 입증됐다는 점이 중요하다. 부인 여부보다 '얼마면 되는가'가 실제 위협 모델을 결정한다.
• 물리 인클로저가 AI 시스템에 잘 맞지 않는 이유가 발열과 호환성이라는 지적은, 보안 대책이 성능 제약과 늘 맞물린다는 현실을 보여 준다.
• 연산과 메모리는 소프트웨어로 위조하기 어려운 몇 안 되는 자원이다. 이를 시간 측정으로 환산하는 접근은 하드웨어를 신뢰할 수 없는 환경에서도 쓸 수 있는 검증 수단이 된다.
• AI 거버넌스가 수출 통제나 사용량 제한 같은 계약으로 표현될 때, 그 계약이 실제로 지켜지는지 확인할 기술적 수단이 함께 있어야 의미가 생긴다.

자주 묻는 질문

관련 AI 소식