실리콘 보안의 폐쇄성과 TEE 신뢰 문제, FAR.AI 발표가 짚은 개방형 칩 제안

핵심 메시지

• 라즈베리파이는 2024년 신형 칩 RP2350에 공개 버그 바운티를 걸었고, 안전하다고 믿어온 안티퓨즈 키 저장 방식이 깨졌다.
• 하드웨어 보안 연구는 역설계 비용과 법적 위협 때문에 진입 장벽이 높아, 검증이라는 자원 자체가 희소하다.
• 칩 내부가 닫혀 있으면 보안 주장은 기술적 근거가 아니라 벤더에 대한 사회적 신뢰로 대체된다.
• 오픈타이탄 같은 시도도 논리 설계 수준에서 개방이 멈춰, 물리적 공격 방어나 하드웨어 백도어 검증에는 부족하다.
• 발표자는 성능 경쟁 대신 보안과 개방성을 우선한 TEE를 직접 만들자고 제안하며, 자신의 프로젝트를 '프로젝트 소버린'으로 소개했다.

쉽게 이해하기

AI 안전 연구 단체 FAR.AI의 행사 발표에서 퀸투스 킬본은 특정 공격 기법이 아니라 '지금의 실리콘 보안이 만들어진 과정'을 문제 삼았다. 그가 출발점으로 삼은 사례는 라즈베리파이의 신형 칩 RP2350이다. 2024년 라즈베리파이는 하드웨어 업계에서는 이례적으로 칩의 보안 메커니즘에 공개 버그 바운티를 걸었다.

결과는 뼈아팠다. 유효한 제보가 여럿 나왔고 그중 IOActive는 키 저장 메커니즘인 안티퓨즈를 공격했는데, 몇 비트를 뽑는 데만도 숙련자의 며칠치 작업이 필요하다고 여겨져 오래도록 안전하다고 통하던 방식이었다. 킬본은 이 팀이 노력의 대부분을 역설계에 썼고 구조를 알고 난 뒤의 공격은 오히려 빠르고 쉬웠다는 점을 강조했다. 더 눈길을 끈 대목은 이들이 수년 전부터 안티퓨즈를 들여다보고 싶어 했으면서도 소송당할 걱정 없이 연구할 창이 열리기를 기다렸다는 사실로, 뒤집어 말하면 그런 창이 없을 때는 아무도 들여다보지 않는다는 뜻이라고 그는 지적했다.

그는 보안 메커니즘이 신뢰를 얻는 이상적인 절차로 최소한의 가정에서 출발해 구성을 제안하고, 그 구성이 그 가정에만 의존한다는 강한 논증을 붙이며, 구현과 가정을 가혹한 검증에 노출시킨 뒤 오래 깨지지 않은 것을 더 견고하게 취급하는 흐름을 들었다. 그런데 상용 칩은 펌웨어 아래로 사실상 전부 비공개이고 그 세부가 여러 당사자의 비밀유지계약에 덮여 있어 이 되먹임 고리가 돌지 않는다. 그 결과 로우해머 같은 연구가 보여주는 수개월치 역설계 비용, 기업의 반대로 발표하지 못하는 법적 장벽, 공개 표준이 없어 각자 자기 방식을 새로 만드는 중복 노력이 겹친다. 검증이라는 희소한 자원이 그만큼 흩어진다는 것이 그의 진단이다.

더 큰 문제로 그는 제3자 검증 가능성의 부재를 꼽았다. 메커니즘을 모르니 보안 주장을 확인할 수 없고, 설계 원본을 모르니 백도어를 찾을 수 없으며, 인텔 TDX처럼 마이크로아키텍처 부채널을 위협 모델에서 빼면서 그 구조를 공개하지 않는 사례도 있다. 그래서 취약점이 나올 때마다 무엇이 안전한지에 대한 모델이 갱신되는 대신 목록만 길어지고, 신뢰는 기술적 가정이 아니라 '인텔이 안전해 보인다' 같은 사회적 가정으로 대체된다. 이는 권력 집중으로 이어지고, 미국 기업이 화웨이를 중국 기업이 인텔을 믿지 못하는 상황처럼 신뢰 경계를 넘는 협력도 막는다는 것이 그의 진단이다.

대안으로 그는 성능에서 엔비디아와 겨루지 않더라도 최대한 개방적이고 보안을 우선한 TEE를 커뮤니티가 직접 만들자고 제안했다. 오픈타이탄 같은 성과는 인정하면서도 개방이 논리 설계에서 멈추면 물리적 방어책이나 하드웨어 백도어를 검증할 수 없고 범위도 신뢰의 뿌리에 한정된다는 지적이다. 어테스테이션의 중앙집중성, 파운드리와 비밀유지계약, 침습적 공격 같은 반론은 타당하지만 해결의 방향조차 없는 것은 아니며, 산업의 인센티브만으로 풀릴 문제가 아니라 새로운 인센티브가 필요하다고 그는 말했다. 발표 말미에 그는 18개월가량 이 문제를 다뤄 왔고 예전 '트러스트리스 TEE'라는 이름을 '프로젝트 소버린'으로 바꿨다고 밝혔다.

주요 인사이트

• 보안이 깨진 진짜 지점은 알고리즘이 아니라 검증 절차였다. 안티퓨즈는 어렵기 때문이 아니라 아무도 들여다보지 않았기 때문에 안전해 보였다.
• 법적 위협은 조용한 형태의 보안 비용이다. 공격자는 소송을 걱정하지 않지만 방어에 기여할 연구자는 걱정하기 때문에, 마찰은 비대칭적으로 작동한다.
• 역설계 능력은 이미 상품화돼 있다. 구독료를 내면 최신 칩 분석 자료를 받아 보는 서비스가 존재하는 이상, 폐쇄성은 대기업과 국가가 아니라 독립 연구자만 막는다.
• '믿을 만한 벤더'로 신뢰를 대체하면 신뢰 경계를 넘는 협력이 불가능해진다. 미·중 기업이 서로의 칩을 신뢰하지 못하는 상황은 보안 메커니즘의 가치를 스스로 깎는다.
• AI 인프라의 기밀 연산이 논의되는 지금, 검증 불가능한 하드웨어 위에 쌓은 보증은 결국 벤더에 대한 믿음일 뿐이라는 점을 이 발표는 되짚는다.

자주 묻는 질문

관련 AI 소식