앤트로픽 미 국방부 충돌 정리: 자율 AI 무기와 대량 감시 요구, 그리고 에이전트 신뢰성 논쟁

핵심 메시지

• 미 국방부는 앤트로픽에 클로드 모델을 '합법적인 범위 안에서' 거의 제약 없이 쓰게 해 달라고 요구했고, 2026년 2월 27일을 수용 시한으로 못박았다.
• 여기서 '합법'의 범위에는 사람의 개입 없는 자율 살상 무기와 자국민을 대상으로 한 대량 감시가 포함될 수 있다는 것이 이 사안의 핵심 쟁점이다.
• 앤트로픽의 거부 논리는 '스카이넷을 막자'는 윤리론이 아니라, 최전선 AI 시스템이 완전 자율 무기를 맡길 만큼 신뢰할 수 없다는 기술적 판단이었다.
• 국방부는 앤트로픽을 '공급망 위험'으로 지정하겠다는 위협과 국방물자생산법을 발동해 안전장치를 걷어내겠다는 위협을 동시에 꺼냈는데, 두 위협은 서로 모순된다.
• 구글과 오픈AI 직원 수백 명이 '우리는 분열하지 않는다'는 공개 서한에 서명하며 경쟁사인 앤트로픽의 입장을 지지하고 나섰다.

쉽게 이해하기

2026년 2월 27일은 클로드(Claude) 모델을 만드는 앤트로픽에게 통보된 마감일이었다. 미 국방부는 클로드를 '합법적인' 용도라면 사실상 제약 없이 사용할 수 있게 해 달라고 요구했다. 문제는 그 '합법'의 테두리 안에 사람이 판단 고리에서 빠진 자율 살상 무기와, 자국민을 대상으로 한 대량 정보 감시가 들어갈 수 있다는 점이다.

이 대치가 특히 기묘한 이유는 앤트로픽과 미 정부 사이에 이미 계약이 존재하고, 그 계약에 국방부가 'AI의 책임 있는 사용'에 동의한다는 내용이 담겨 있기 때문이다. 클로드는 이미 국방부와 방산업체, 그리고 팔란티어(Palantir) 같은 기업에서 폭넓게 쓰이고 있다. 이들이 클로드를 택한 이유는 가장 강력한 모델 계열로 평가받기 때문이다. 결국 정부 스스로 원칙적으로 약속한 정책에서 기업을 강제로 끌어낼 수 있느냐는 물음이 남는다.

국방부 자체 규정과도 어긋난다. 국방부 지침 3000.09는 모든 자율 무기 체계를 지휘관과 운용자가 무력 사용에 대해 적절한 수준의 인간 판단을 행사할 수 있도록 설계하라고 요구한다. 또 다른 지침은 특정한 법적 근거가 없는 한 정보기관이 미국인에 대한 정보를 수집하지 못하도록 금지하고 있다. 요구는 이미 맺은 합의와도, 자기 규정과도 충돌하는 셈이다.

앤트로픽에 가해진 압박은 두 갈래였다. 하나는 앤트로픽을 '공급망 위험'으로 지정하겠다는 것으로, 통상 미국의 적대국에 붙는 딱지이며 미국 기업에 적용된 전례가 없다. 이렇게 되면 앤트로픽과 계약한 기업들이 정부·국방부 일을 하면서 동시에 클로드를 쓸 수 없게 되어 수억 달러 이상의 손실이 발생한다. 다른 하나는 국방물자생산법을 발동해 앤트로픽이 고집해 온 안전장치를 제거한 국방부 전용 버전을 만들도록 강제하는 것이다. 앤트로픽은 '적대적 공급망 위험'인 동시에 '강제로 동원해야 할 만큼 안보에 필수적인 존재'일 수는 없다고 반박했다.

정작 앤트로픽이 내세운 거부 사유는 예상과 달랐다. 대량 감시에 대해서는 '지금 합법일 수 있지만 그것은 법이 AI의 능력 향상 속도를 따라잡지 못했기 때문'이라고 지적했다. 웹 브라우징 기록, 이동 경로, 인간관계처럼 개별적으로는 무해한 데이터를 영장 없이 자동으로, 대규모로 엮어 한 사람의 삶 전체를 그려낼 수 있게 된 상황을 문제 삼은 것이다. 자율 무기에 대해서는 더 담백하게, 최전선 AI 시스템이 완전 자율 무기를 움직일 만큼 신뢰할 수 없어 미군과 민간인을 위험에 빠뜨리는 제품을 알면서 공급할 수는 없다고 밝혔다. 앤트로픽은 특정 군사 작전 자체에 이의를 제기한 적은 없다는 점도 분명히 했다.

주요 인사이트

• 이 논쟁의 무게중심은 '기계에 살상을 맡겨도 되는가'라는 오래된 윤리 질문이 아니라 '지금의 AI가 그만큼 믿을 만한가'라는 공학적 질문으로 옮겨가 있다. 반대의 근거가 원칙이 아니라 성능이면, 성능이 올라갔을 때 반대의 근거도 함께 사라진다.
• '에이전트 오브 카오스(Agents of Chaos)'라는 84쪽 분량의 논문은 AI 에이전트가 의도치 않게 일으키는 사고를 정리했다. 소유자가 아닌 사람이 셸 명령 실행, 데이터 전송, 사적 이메일 조회를 요청했을 때 에이전트가 대부분 응했고 124건의 이메일 기록을 노출한 사례, 개인정보 제공은 거부했으면서 그 정보가 담긴 메일을 '전달해 달라'는 요청에는 가리지 않고 그대로 응한 사례가 나온다. 이런 실패 양상이 전장에 옮겨졌을 때를 상상하기는 어렵지 않다.
• 프린스턴대의 'AI 에이전트 신뢰성의 과학을 향하여' 논문은 벤치마크 정확도가 에이전트의 불안정성을 가릴 수 있다고 지적하며 네 가지 축을 제시한다. 같은 상황을 반복해도 비슷하게 행동하는가(일관성), 프롬프트나 도구 호출을 미세하게 바꿔도 성능이 무너지지 않는가(강건성), 답을 미리 예측하거나 해석할 수 있는가(예측 가능성), 실패했을 때 그 피해가 치명적인가 경미한가(안전성)이다.
• 벤치마크에서 93% 성공률을 볼 때 던져야 할 질문은 '나머지 7%의 실패가 얼마나 나빴는가'다. 모델 세대가 올라가며 일관성과 강건성이 개선되긴 했지만 정확도만큼 극적이지는 않았다는 점이, 자율 무기 논쟁에서 결정적인 대목이다.
• 앤트로픽 자신도 원칙을 굽힌 전례가 있다. 안전 조치가 충분하다고 사전에 보증하지 못하면 AI를 학습시키지 않겠다던 '책임 있는 스케일링 정책'의 약속이, 경쟁사 대비 뚜렷한 우위가 없다고 판단될 경우에는 적용되지 않도록 바뀌었다. 경쟁자가 질주하는데 일방적 약속을 하는 것은 의미가 없다는 논리인데, 이는 국방부 앞에서 지금 취하고 있는 태도와 묘하게 겹친다.

자주 묻는 질문

관련 AI 소식