AI 에이전트 통제 증명 정리: 메시징 구조 교체와 가드레일, 관측, 데이터 이동성까지

핵심 메시지

• 연산 자원이 아니라 검증 기술이 다음 해자가 된다는 문제의식 아래, 업계는 '통제의 증명'이라는 이름으로 흩어진 기술들을 하나의 범주로 묶으려 하고 있다.
• 전화번호와 이메일에 묶인 기존 메신저 구조는 에이전트가 대신 말하기 시작하면 스팸과 사칭에 그대로 무너진다는 진단이 나왔다.
• 지능은 어느 정도 확보됐고 이제 필요한 것은 효율과 가드레일이라는 주장이 반복됐다. 관측되지 않은 코딩 에이전트 두 대가 7시간 만에 4만 7천 달러를 태운 사례가 근거로 제시됐다.
• AI를 쓸모 있게 만드는 것은 모델이 아니라 맥락, 즉 내 데이터다. 그런데 그 데이터는 대부분 플랫폼 안에 갇혀 있다.
• 사용자는 이념이 아니라 제품을 보고 움직인다. 프라이버시를 앞세우기보다 '지금 하던 일을 더 빠르고 쉽게'가 되어야 채택된다는 데 패널이 모두 동의했다.

쉽게 이해하기

이 패널의 출발점은 용어 정리였다. 에이전트끼리 통신하게 만드는 보안 기술이 우후죽순 등장했지만 저마다 다른 이름으로 불리고 있으니, 1990년대 말 '오픈소스'라는 말이 정의되고 법적으로 방어 가능해지며 상업적으로도 통했던 과정을 다시 밟자는 것이다. 진행자는 앞으로 진짜 해자는 연산 자원이 아니라 검증 기술 쪽에 생길 것이라고 전제하며, 이를 '통제의 증명'이라는 범주로 부르자고 제안했다.

첫 번째 축은 메시징이다. 탈중앙 메신저를 만드는 창업자는 자신도 새 메신저를 원하지 않는다고 말문을 열면서, 그러나 지금의 메시징 기반은 전화번호와 이메일 같은 단일 식별자 위에 서 있어 에이전트 시대에는 버티지 못한다고 주장했다. 그가 만든 앱은 가입도 전화번호도 이메일도 없이 대화마다 새 키를 만들고, 필요하면 타이머로 참가자 전원의 기기에서 키를 소각한다. 대화마다 다른 정체성으로 참여할 수 있고 사람뿐 아니라 에이전트도 초대할 수 있다. 프로토콜 노드를 어느 한 나라가 3분의 1 넘게 보유하지 못하게 설계해 특정 국가의 규제로 네트워크 전체가 멈추지 않게 했다는 설명도 덧붙였다.

두 번째 축은 에이전트 관측과 가드레일이다. 한 패널은 지난 3년간 모두가 에이전트를 더 똑똑하게 만드는 데 매달렸지만 이제는 효율과 안전장치가 과제라고 말했다. 그는 시속 200킬로미터로 달릴 수 있게 잘 닦였지만 가드레일이 없는 고속도로에 비유하며, 서버를 띄울 때 관측 대시보드 없이 운영하지 않는 것처럼 에이전트에도 같은 기준이 필요하다고 했다. 실제 사례로는 아무도 지켜보지 않는 사이 코딩 에이전트 두 대가 7시간 동안 4만 7천 달러를 소진한 일, 그리고 자신이 에이전트에 개인 키를 넘겼다가 암호화폐를 잃은 경험이 언급됐다. 그가 만든 대시보드는 결제 한도와 중단, 승인 단계를 사후 로그가 아니라 해시 기반 증명으로 남긴다.

세 번째 축은 데이터 이동성이다. 지난 2년간의 챗봇 대화 기록과 메시지, 건강 기록 중 무엇을 지우기 가장 아까우냐는 질문에, 발표자는 챗봇 기록이라고 답했다. AI를 잘 작동하게 만드는 맥락이 바로 거기 쌓여 있기 때문이다. 문제는 그 기록이 법적으로는 사용자 소유인데 실제로는 플랫폼 안에 있다는 점이다. 주차장에 차를 맡겼다고 주차장이 차를 소유하지는 않는다는 비유가 이어졌고, 한 번의 클릭으로 각 서비스에서 데이터를 가져오는 도구, 그리고 대기업 바깥의 개발자들이 학습에 쓸 데이터에 접근하지 못하는 현실이 함께 지적됐다.

마지막 화두는 검증이었다. 내가 돈을 낸 모델이 아니라 더 싼 모델이 답하고 있다면 사용자가 그것을 확인할 방법이 있는가라는 질문이 던져졌고, 신뢰 실행 환경과 영지식 증명이 후보로 거론됐다. 프라이버시와 검증 가능성은 다른 문제라는 지적도 나왔다. 대화가 어디에서 연산되고 어디에 저장되는지 밝히는 방식으로 검증에 다가갈 수 있다는 것이다. 한 패널은 '믿어달라고 말하는 회사는 믿지 말라'며, 자사 홈페이지의 모든 주장 옆에 검증 프롬프트를 복사해 챗봇에 물어볼 수 있는 버튼을 달아뒀다고 소개했다.

주요 인사이트

• 에이전트에 기존 메신저 계정을 그대로 물려주는 방식이 위험한 이유가 구체적으로 드러난다. 연락처와 전화번호를 통째로 넘겨주는 셈이어서, 사고가 나면 피해 범위를 사용자가 통제할 수 없다.
• 가드레일 논의가 추상적인 안전 담론에서 운영 지표로 내려왔다. 관측 대시보드, 결제 한도, 승인 추적처럼 이미 서버 운영에서 익숙한 장치가 에이전트에 그대로 요구되고 있다.
• 사후에 만든 로그와 실행 시점의 암호학적 증명은 다르다. 보험이나 청구 처리처럼 분쟁이 생기는 영역에서는 이 차이가 곧 책임 소재의 차이가 된다.
• 데이터 소유권 담론이 오래 겉돌았던 이유도 언급됐다. '데이터를 소유하고 싶으냐'는 질문에는 반응이 없지만, '챗봇 대화 기록을 다른 AI로 옮기고 싶으냐'는 질문에는 반응이 온다는 것이다.
• 이 분야가 암호화폐와 엮여 보이는 것 자체가 채택의 걸림돌로 지목됐다. 그래서 에이전트 결제를 '기계 간 결제'로 부르자는 제안까지 나왔다.

자주 묻는 질문

관련 AI 소식