앤트로픽, 역대 최강 모델 '클로드 페이블 5' 공개… 고위험 요청은 오푸스 4.8로 우회

핵심 메시지

• 앤트로픽이 일반 공개 모델 중 가장 강력하다고 밝힌 '클로드 페이블 5(Claude Fable 5)'를 출시했다.
• 이전의 '클로드 미토스 프리뷰'는 수천 개의 사이버보안 취약점을 찾아내는 능력 탓에 일반 공개하지 않고, 핵심 소프트웨어 방어 인력에게 넘겨 결함을 메우는 데 썼다.
• 페이블 5는 역대 가장 신중한 안전장치를 갖췄으며, 사이버보안·생물학 등 고위험 요청은 자동으로 검토해 오푸스 4.8로 우회시킨다.
• 페이블 5는 며칠간 개입 없이 자율적으로 작동할 수 있고, 코딩을 넘어 금융·연구·경제·법률 등 복잡한 과제에도 쓰일 수 있다.

쉽게 이해하기

앤트로픽은 일반에 공개한 모델 가운데 가장 뛰어난 성능을 지녔다는 '클로드 페이블 5'를 출시했다고 밝혔다. 페이블 5는 일반 사용에 적합하도록 안전장치를 갖춘 '미토스(Mythos) 등급' 모델이다. 앤트로픽은 같은 수준의 성능을 지녔던 이전 모델을 폭넓게 공개하지 않았는데, 학습과 테스트를 마친 뒤 '클로드 미토스 프리뷰'가 수천 개에 달하는 사이버보안 취약점을 찾아낸다는 사실을 확인했기 때문이다.

이런 결함을 찾아낼 수 있는 모델은 동시에 그 결함을 악용하는 데도 쓰일 수 있다. 그래서 앤트로픽은 그 모델을 공개하는 대신, 세계의 핵심 소프트웨어를 지키는 사람들에게 넘겨 누군가 침투하기 전에 구멍을 메우는 작업에 투입했다. 앤트로픽은 이를 그 순간으로서는 옳은 결정이었지만 결코 목표는 아니었다고 말한다. 강력한 AI는 안전하면서도 접근 가능해야 한다는 믿음 아래 클로드 페이블 5 개발에 나선 것이다.

모든 클로드 모델에는 해를 끼치지 않도록 하는 안전장치가 있지만, 페이블에는 이전 어떤 모델보다 신중한 장치가 필요했다. 페이블 5의 안전 시스템은 사이버보안이나 생물학처럼 고위험 영역에 닿는 요청을 자동으로 검토하고, 해당 요청을 오푸스 4.8로 우회시킨다. 이는 사람들이 페이블 같은 강력한 모델의 능력을 계속 누리되, 그에 따르는 사이버·생물학 위험은 피하도록 하려는 의도적 설계다. 앤트로픽은 현재 안전장치가 넓게 적용돼 있지만, 안전한 요청을 더 잘 허용하도록 계속 다듬어 가겠다고 밝혔다.

앤트로픽은 페이블 5를 사용자의 가장 야심 찬 작업을 위해 만들었다고 강조한다. 이 모델은 이전 어떤 모델보다 오래 한 문제에 매달릴 수 있고, 고도로 자율적이어서 며칠 동안 개입 없이 작동할 수 있다. 활용 범위도 코딩에 그치지 않고, 과거에는 끊임없는 감독이 필요했던 금융·연구·경제·법률 등 복잡한 과제로 확장된다. 앤트로픽은 '정말 중요한 무언가에 이 모델을 겨눠 보라'며, 우리가 훗날 '왜 이렇게 오래 걸렸을까' 되돌아볼 문제가 무엇일지 물었다.

주요 인사이트

• 앤트로픽은 강력한 능력 그 자체보다 '안전한 공개 가능 여부'를 출시 기준으로 삼았다. 미토스 프리뷰를 공개하지 않은 결정이 이를 단적으로 보여준다.
• 고위험 요청을 더 보수적인 모델(오푸스 4.8)로 우회시키는 방식은, 성능과 안전을 모두 잡으려는 절충적 안전 설계의 사례다.
• 며칠간 사람 개입 없이 작동하는 높은 자율성은, AI가 단발성 답변을 넘어 장기 과제를 스스로 수행하는 방향으로 진화하고 있음을 보여준다.
• 적용 분야가 코딩을 넘어 금융·연구·경제·법률로 넓어진 점은, 과거 지속적 감독이 필요하던 전문 지식 노동까지 AI가 맡을 수 있게 됐음을 시사한다.

자주 묻는 질문

관련 AI 소식