싸구려 AI API 프록시의 숨은 비용: 모델 바꿔치기부터 코드베이스 유출과 자격증명 탈취까지

핵심 메시지

• 베이스 URL 한 줄만 바꾸면 공식가의 10분의 1로 프론티어 모델을 쓸 수 있다는 중계(프록시) 서비스가 성행하지만, 그 할인은 효율이 아니라 계정 도용과 할당량 쪼개기에서 나온다.
• 모델 이름은 그저 문자열이다. 오퍼스를 요청해도 중계 서버가 값싼 모델로 바꿔치기한 뒤 오퍼스라고 라벨을 붙여 돌려줄 수 있고, 이용자는 모델 품질을 의심하게 된다.
• 논문 'Your Agent Is Mine'은 유료 라우터 28곳과 무료 라우터 400곳을 시험해 악성코드를 주입하는 9곳, 이용자의 AWS 자격증명을 건드리는 17곳, 그리고 연구자 지갑의 이더리움을 실제로 빼간 사례를 확인했다.
• 챗봇보다 에이전트에서 피해가 훨씬 커진다. 중계 서버는 도구 스키마·파일 경로·코드 디프까지 보고, 응답을 로컬 에이전트가 읽기 전에 고쳐 쓸 수 있다.
• 정상적인 게이트웨이라도 캐시 적중이 깨지면 토큰 비용이 오히려 오를 수 있다. 비용이 목적이라면 공식 소형 모델, 로컬 모델, 평판 있는 집계 서비스가 훨씬 낫다.

쉽게 이해하기

AI 엔지니어 루이-프랑수아 부샤르는 커뮤니티에서 돌던 중국어 해설 영상을 실마리로, 이른바 '초저가 API 중계소'의 실제 작동 방식을 파고들었다. 이용자가 하는 일은 단순하다. 오픈AI나 앤트로픽 서버 대신 제3자 서버로 베이스 URL을 바꾸는 것뿐이고, 요청 형식도 모델 이름도 그대로다. 시스템을 잘 활용했다는 기분마저 든다. 문제는 그 순간부터 요청이 중간자를 통과한다는 사실이다.

그 중간자는 이용자의 프록시 키를 자기 계정 키로 갈아 끼워 상위 제공자에 전달하고 응답을 되돌려준다. 여기서 가장 흔한 수법이 모델 바꿔치기다. 모델 이름은 검증되는 값이 아니라 단순한 문자열이라, 비싼 모델을 요청해도 싼 모델의 답을 비싼 모델 이름표를 달아 보낼 수 있다. 쉬운 작업에서는 눈치채기 어렵고, 어려운 작업에서 성능이 떨어지면 이용자는 중계 서버가 아니라 모델 자체를 의심하게 된다.

이 의심은 근거가 있다. 'Real Money, Fake Models'라는 논문은 이런 그림자 API들을 조사해 실제 성능 편차, 불안정한 안전 동작, 그리고 다수의 지문(fingerprint) 검사에서 모델 정체성 확인이 실패하는 현상을 확인했다. 일부 서비스는 자신이 판다고 주장하는 공식 모델처럼 동작하지 않았다. 놀랍지는 않지만, 감이 아니라 숫자로 확인됐다는 점이 중요하다.

그렇다면 할인은 어디서 나오는가. 차이나톡의 취재를 인용해 영상은 계정 농장, 무료 가입 크레딧, 남는 할당량, 그리고 구독제를 최대한 많은 이용자에게 쪼개 파는 방식을 지목한다. 20달러짜리 요금제를 400달러어치 API 사용량으로 짜낼 수 있다는 주장이다. 상위 계정이 차단되면 백엔드가 다음 계정으로 돌려막는다. 규모도 작지 않아서, 앤트로픽은 2월에 부정 계정 2만 4천 개를 통한 1,600만 건 이상의 교환을 언급했고 한 프록시 네트워크는 2만 개 이상 계정을 동시에 굴렸다.

가장 위험한 지점은 에이전트다. 챗봇 프록시는 프롬프트와 응답을 보지만, 에이전트 프록시는 도구 스키마와 파일 경로, 작업 계획, 코드 디프를 보고 때로는 코드베이스나 파일 시스템 전체에 닿는다. 에이전트 트래픽은 네트워크를 오가는 JSON일 뿐이므로, 중계 서버는 로컬 에이전트가 응답을 읽기 전에 내용을 고쳐 쓸 수 있다. 노트북을 직접 해킹할 필요 없이, 이미 권한을 받은 에이전트를 슬쩍 밀어주기만 하면 된다.

주요 인사이트

• 위협 모델이 하나 더 늘어난다는 점이 핵심이다. 공식 제공자만 신뢰하면 되던 구조에서, 모든 요청을 기록·변조·삭제·재라우팅·위조할 수 있는 당사자가 하나 추가된다.
• 약관 위반이라는 실무적 위험도 있다. 오픈AI 등은 접근권 재판매, API 키 양도, 리버스 엔지니어링, 사용량 우회를 명시적으로 금지하므로 이런 서비스는 하루아침에 차단될 수 있고 충전해 둔 잔액도 함께 사라진다.
• 합법적인 집계·라우팅 서비스는 별개의 유용한 제품군이다. 차이는 투명성에 있다. 실제 상위 제공자를 밝히는지, 실체 있는 회사인지, 약관과 데이터 정책이 분명한지, 그리고 가격이 그럴듯한지를 보면 된다.
• 정상 라우터를 쓰더라도 공짜는 아니다. 코덱스나 클로드 코드 같은 도구는 최근 맥락을 재사용하는 캐시 적중으로 토큰 비용을 최대 10분의 1까지 낮추는데, 중계를 거치면 이 이점이 날아가 비용은 오르고 위험만 떠안는 결과가 될 수 있다.
• 비용이 진짜 문제라면 정공법이 있다. 더 저렴한 공식 모델, 로컬 소형 모델, 평판 있는 집계 서비스, 그리고 맥락 압축 기법이다. 품질은 일부 포기하더라도 신뢰 경계가 눈에 보인다는 점이 이득이다.

자주 묻는 질문

관련 AI 소식