AI 모델 강제 중단 논란, Fable 5·Mythos 5 셧다운을 둘러싼 우려

핵심 메시지

• 영상에 따르면 정부의 수출 통제 명령으로 두 AI 모델(Fable 5·Mythos 5)이 하룻밤 사이 모든 사용자에게서 차단됐다.
• 명령서에는 구체적 보안 사유가 적혀 있지 않은 채 '준수하라'는 요구만 담겼다고 발표자는 전한다.
• 문제가 된 '탈옥'은 모델에게 코드를 읽고 버그를 고치게 한 것으로, 발견된 버그는 작고 이미 알려진 수준이며 다른 모델도 똑같이 찾아낸다고 그는 주장한다.
• 발표자는 위험이 진짜라면 절차와 근거를 보여야 하는데 이번엔 그렇지 못했다며 정부의 과잉 개입을 비판한다.
• 그는 어떤 도구든 하루아침에 사라질 수 있으니 하나의 모델에 모든 것을 걸지 말라고 조언한다.

쉽게 이해하기

발표자는 평소처럼 아침 업무 계획을 세우려다 며칠 전 출시된 모델 Fable 5에 더 이상 접근할 수 없다는 안내를 받았다고 말한다. 알아보니 전날 밤 정부가 해당 기업에 수출 통제 명령을 내려 Fable 5와 Mythos 5 두 모델을 국가 안보를 이유로 중단시켰다는 것이다.

그는 이 조치가 벌금이나 시정 기간을 주는 수준이 아니라, 기업이 유료 고객과 프로덕션 운영 기업, 일반 사용자 모두에게서 두 모델을 즉시 내려야 할 만큼 광범위했다고 전한다. 게다가 명령서에는 어떤 보안 문제인지조차 적혀 있지 않았다고 강조한다.

문제가 된 '탈옥' 사례에 대해 그는, 실제로는 모델에게 코드를 읽고 버그를 수정하게 한 것이 전부였다고 설명한다. 이는 개발 도구들이 본래 하도록 만들어진 일이며, 발견된 버그는 작고 이미 알려진 것들이고 다른 모델(GPT 5.5 등)도 탈옥 없이 같은 문제를 찾아낸다고 덧붙인다.

그는 정말 위험한 모델이라면 막는 것이 맞지만, 제대로 된 절차와 규칙이 있어야 하며 이번 방식은 그렇지 않았다고 본다. 익명의 편지 한 장으로 어떤 출시든 중단될 수 있다면 그것은 안전이 아니라 '설명 없는 킬 스위치'라는 것이다.

결론적으로 그는 이 사안이 특정 모델이나 기업의 문제가 아니라, 우리가 의존하는 어떤 도구도 한순간에 사라질 수 있다는 점을 일깨운다며, 단일 모델에 모든 것을 걸지 말고 이런 결정이 어떻게 내려지는지 주시하라고 당부한다.

주요 인사이트

• 코드를 읽고 버그를 찾는 일은 거의 모든 개발 도구의 기본 기능인데, 이를 위험 능력으로 규정하면 사실상 모든 도구가 표적이 될 수 있다.
• 한 모델을 시장에서 지워도 같은 능력이 다른 여러 도구에 남아 있어, 차단의 실효성에 의문이 생긴다.
• 사유를 밝히지 않는 규제는 안전 조치라기보다 예측 불가능한 '킬 스위치'로 작동하며 신뢰를 무너뜨린다.
• 단일 모델·단일 벤더 의존은 운영 연속성에 큰 위험이므로 대안을 분산해 두어야 한다.

자주 묻는 질문

관련 AI 소식