알리바바 모델 스펙 공개, 6대 원칙·43개 지침·4단계 권한 위계로 AI 행동 규정

핵심 메시지

• 모델 스펙은 모델의 행동과 논리, 가치 선호, 안전 경계를 정의하는 기술 프레임워크로, 6대 원칙과 43개 지침, 4단계 권한 위계라는 3층 구조로 짜였다.
• 지침은 금지선을 긋는 안전 지침과 유용한 응답 방식을 규정하는 유용성 지침으로 나뉜다.
• 루트·시스템·개발자·사용자로 이어지는 권한 위계는 규칙이 서로 충돌할 때 무엇을 따를지 정하는 실용적 장치다.
• 규칙 준수 여부는 단일 규칙 검증에서 시작해 범위 확장을 거쳐 스펙 전체와의 일관성 평가로 나아가는 3단계로 검증한다.
• 전문가 검토와 사회적 피드백이라는 두 갈래 공동 구축 절차를 두고, 스펙 자체는 이미 오픈소스로 공개됐다.

쉽게 이해하기

알리바바 보안 부문의 지아유 션은 회사가 만든 모델 스펙이 무엇을 담고 있고 어떻게 평가하며 사회와 함께 어떻게 만들어 가는지를 발표한다. 그가 말하는 모델 스펙은 모델의 행동과 논리, 가치 선호, 안전 경계를 규정하는 기술 프레임워크다. 구조는 세 층이다. 맨 위에 중국의 차세대 AI 윤리 규범과 정렬된 6대 핵심 원칙이 있고, 그것이 43개 지침으로 번역되며, 바닥에는 4단계 권한 위계가 놓인다.

여섯 원칙은 인간 복지 증진, 공정과 정의, 프라이버시와 보안, 통제 가능성, 책임성 강화, 윤리 함양 순으로 소개된다. 첫 원칙은 개인만이 아니라 공공의 이익까지 우선한다는 취지로, 조직적 폭력이나 화생방·핵 위협 같은 금지선을 긋는 동시에 임박한 위험에는 모델이 먼저 개입하도록 요구한다. 공정성 원칙은 정체성에 근거한 차별을 금지하고, 마이크로타기팅이나 여론 조작 같은 정치적 조작에 모델이 가담하지 않도록 한다.

프라이버시 원칙의 핵심은 최소 수집과 최소 이용이다. 개인정보의 유출은 물론 추론도 막고, 시스템 프롬프트와 개발자 지시, 안전 전략은 기본적으로 비공개로 다룬다. 통제 가능성 원칙은 발표자가 에이전트 시대의 핵심 원칙군이라 부르는 부분으로, 사용자의 의도를 정확히 해석하고 지시를 충실히 수행하되 감독 회피나 감시 없는 자기 개선 같은 숨은 목표를 갖지 않도록 규정한다.

책임성 원칙은 지식재산권 존중, 딥페이크 지원 거부, 민감한 내용은 정당한 전문적 맥락에서만 다루기 등 전문 영역을 폭넓게 다루며, 최종 판단과 책임은 사람에게 남는다는 원칙을 유지한다. 마지막 윤리 함양 원칙은 두 가지 실패 유형을 겨냥한다. 사용자에게 무조건 맞장구치는 아첨과, 설교하듯 거부하는 태도 둘 다를 피하고 균형 잡힌 답을 하라는 것이다.

권한 위계는 런타임에 덮어쓸 수 없는 루트에서 시작한다. 그 아래 모델 제공자가 시스템 프롬프트로 설정하는 시스템 층, 차별화된 애플리케이션을 만드는 개발자 층, 상위 지시로 언제든 덮일 수 있는 가장 유연한 사용자 층이 이어진다. 평가는 경계가 분명하고 논란이 적은 규칙부터 단일 규칙 준수를 묻는 1단계에서 출발해, 규칙과 벤치마크를 함께 늘리는 2단계, 응답이 스펙 전체와 일관되는지를 보는 3단계로 나아간다.

주요 인사이트

• 규칙을 늘어놓는 대신 충돌 해소 위계를 명시한 점이 이 스펙의 실용적 뼈대다. 루트만은 실행 시점에 덮어쓸 수 없도록 못 박아, 관할과 문화가 달라도 흔들리지 않는 기준선을 남겼다.
• 아첨과 설교식 거부를 함께 실패로 규정한 대목은, 안전을 이유로 무조건 거부하는 모델도 정렬 실패로 본다는 관점을 보여 준다.
• 1단계 벤치마크는 논란이 적은 규칙만 골라 만들어졌다. 스펙 전체와의 일관성 평가는 어렵기 때문에 아직 연구 중이라고 발표자는 인정한다.
• Qwen3 14B를 기반으로 후속 학습 단계에서 '건설적 안전 정렬'을 적용한 모델 오이스터-2는 1단계 벤치마크에서 비슷한 크기의 기반 모델을 앞서고 훨씬 큰 모델과도 맞먹으며 탈옥 공격에도 더 잘 버텼다고 소개된다.
• 공동 구축은 전문가가 규칙을 검토·수정·제안하는 갈래와, 시나리오 설문으로 대중이 규칙을 어떻게 해석하는지 살펴 규칙 간 빈틈이나 빠진 상황을 찾는 갈래로 나뉜다.

자주 묻는 질문

관련 AI 소식