AI 검증 기술이란 무엇인가: 데이터센터 전력계로 국제 AI 합의를 감시하는 하드웨어 감시 방식

핵심 메시지

• AI 검증은 모델 가중치나 알고리즘 대신, 모델이 돌아가는 칩과 데이터센터라는 물리적 실체를 관찰해 시스템에 관한 사실을 상대방에게 증명하는 방식이다.
• 발표자는 이를 '데이터센터를 위한 금속탐지기'에 비유한다. 가방을 다 비우지 않아도 흉기 유무를 알 수 있듯, 데이터센터 외부의 전력계만으로도 내부 작업 부하의 성격을 짐작할 수 있다.
• 이런 검증 장치는 국제 합의를 신뢰할 수 있게 만들고, 해외에서 만든 AI를 도입할 때 안전성을 확인시켜 주며, 프런티어 AI 역량이 없는 나라에도 통찰과 주권을 준다.
• 문제는 그런 장치가 아직 존재하지 않는다는 점이며, 현재 연구도 미국과 영국에 지나치게 쏠려 있다.
• 발표자가 속한 싱가포르 조직은 여러 관할권에 검증 기술을 분산시키기 위해 국제 협력체를 출범시키고 소규모 시제품을 만들어 정책 결정자에게 보여주는 일을 하고 있다.

쉽게 이해하기

AI 안전성을 확인하는 방법 하면 보통 모델의 답변을 평가하거나 가중치를 들여다보는 장면을 떠올린다. 호주 AI 안전 포럼 2026에서 싱가포르 AI 안전 허브의 잭 리처드슨은 전혀 다른 접근을 소개했다. 모델이 실제로 돌아가고 있는 칩, 그리고 그 칩을 품고 있는 데이터센터라는 물리적 대상을 관찰해 시스템에 관한 사실을 알아내는 하드웨어 기반 감시 방식이다.

그가 말하는 검증(verification)의 핵심은 '증명'이다. 어떤 데이터로 학습됐는지, 지금 어떤 작업 부하가 돌아가는지, 어떤 모델이 실행 중인지 같은 사실을 다른 당사자에게 납득시키는 일이다. 그는 이를 데이터센터를 위한 금속탐지기에 빗댄다. 공항에서 가방 속 물건을 전부 꺼내 보이지 않아도 흉기가 있는지 알 수 있듯, 데이터센터 바깥에 설치한 전력계 같은 장치만으로도 안에서 벌어지는 연산의 성격을 어느 정도 알 수 있다는 것이다. 모델 가중치나 사용자 프롬프트 같은 민감한 지식재산을 노출하지 않고도 확인이 가능하다는 점이 이 방식의 매력이다.

그는 검증이 중요한 이유를 셋으로 정리한다. 첫째, 국제 합의를 실행 가능하게 만든다. 미국과 중국이 AI 개발 방식이나 배포 시 지켜야 할 안전장치에 합의하더라도, 그 약속이 지켜지는지 확인할 수단이 없으면 신뢰가 성립하지 않는다. 둘째, 해외에서 개발된 AI를 도입할 때 기업이나 정부가 무엇을 들여오는지 높은 수준으로 확신할 수 있게 해준다. 셋째, 최전선 AI를 직접 만들지 못하는 나라에도 외국산 AI에 대한 가시성과 주권을 준다. 그런데 이런 장치는 아직 만들어지지 않았고, 만들어내는 것 자체가 큰 성과가 될 것이라고 그는 말한다.

발표의 초점은 '중견국'이다. 그는 검증이 중견국에게 세 가지를 준다고 본다. 우선 국내 규제 역량을 지킬 수 있다. 해외 AI를 들여올 때 그 기업이 EU나 캘리포니아 기준에 맞춰 정한 것을 그대로 받아들이는 대신, 특정 평가를 실제로 거쳤는지 기술적 요건을 충족하는지 직접 확인할 수 있다. 다음으로 규제가 엄격하거나 실패의 대가가 치명적인 산업에서, API 엔드포인트에 붙은 이름표나 계약서 문구 이상의 보증을 받을 수 있다. 마지막으로 협상 테이블에서 자리를 얻는다. 영국이 AI 평가 분야를 선도해 거버넌스 논의에서 발언권을 유지한 것처럼, 검증 분야에도 비슷한 기회가 열려 있다는 것이다.

반대 방향의 논리도 성립한다. 검증이 실현되려면 중견국이 필요하다는 것이다. 미국과 중국이 협력하기로 한다면 그 합의가 얼마나 잘 지켜지는지 증언해 줄 폭넓은 국제 전문가층이 있어야 한다. 검증 장치가 미국에서만, 혹은 중국에서만 개발된다면 가시성은 줄고 정치적 부담은 커진다. 게다가 이 분야에는 아직 손대지 않은 과제가 많고, 최전선 규모의 자원 없이도 개발할 수 있다는 점을 그는 거듭 강조했다. 실제로 그의 조직은 검증 기술이 특정 국가에 쏠리지 않도록 싱가포르를 거점으로 국제 협력체를 만들고, 소규모 시제품을 제작해 정책 결정자에게 보여주는 방식으로 접근하고 있다.

주요 인사이트

• 검증을 '모델 내부를 열어보는 일'이 아니라 '민감 정보를 감추면서 필요한 사실만 증명하는 일'로 재정의하면, 기업의 지식재산 보호와 사회적 감시 요구가 정면충돌하지 않는 길이 열린다.
• 전력 소비 같은 물리적 신호는 알고리즘이 바뀌어도 남는다. 소프트웨어 수준의 자기 신고보다 조작하기 어렵다는 점이 하드웨어 기반 감시의 강점이다.
• AI 거버넌스에서 영향력은 최대 규모의 모델을 가진 나라에만 주어지지 않는다. 영국의 AI 평가 사례처럼, 비어 있는 기술 영역을 먼저 채우면 자원이 적어도 발언권이 생긴다.
• 검증 기술이 미국·영국에 집중돼 있다는 사실 자체가 신뢰의 약점이다. 심판이 한쪽 진영에만 있으면 판정을 받아들이기 어렵다는 문제와 같다.
• 해외 AI를 도입하는 규제 산업에서 'API에 적힌 모델 이름'과 '실제로 서비스되는 모델'이 같다는 보장은 계약서뿐이라는 지적은, 도입 기업에게도 현실적인 리스크 항목이다.

자주 묻는 질문

관련 AI 소식