미스트랄 Shieldstral: 모더레이션이 부담이 아니라 질문이 되다

미스트랄 AI가 자동 모더레이션의 고질적 문제인 '경직성'을 겨냥한 30억 파라미터 멀티모달 안전성 분류기 Shieldstral을 공개했다. 유해 범주가 학습 단계에서 고정되는 기존 "guard model"과 달리, Shieldstral은 모더레이션 정책을 텍스트 지시문 — 예/아니오로 답하는 질문 — 형태로 받아 추론 시점에 바로 전달받는다. Ministral-3-3B와 시각 인코더 Pixtral을 기반으로 한 이 방식 덕분에, 규칙을 바꿀 때마다 모델을 다시 학습시킬 필요가 없어진다. 가중치는 Apache 2.0 라이선스로 허깅페이스에 공개되어 상업적 이용과 자체 인프라 실행이 가능하다. 회사가 밝힌 하드웨어 요건은 16GB NVIDIA GPU 한 장이다.

이 시스템은 이탈리아어를 포함한 12개 언어에서 텍스트·이미지·혼합 입력을 처리하며, 모델을 한 번만 실행해 고정 범주의 라벨이 아니라 연속적이고 보정된 신뢰도 점수를 돌려준다. 미스트랄이 공개하고 Unite.AI가 전한 수치에 따르면, 텍스트 안전성 평균 F1은 84.9%로 GPT-OSS-Safeguard-20B와 동급이고, 멀티모달 안전성은 83.8%로 OmniGuard-7B의 77.6%를 앞선다. 회사는 이 모델이 "matches or outperforms open guard models up to 7× its size"라고 적었는데, 이는 회사의 주장이지 제3자의 측정이 아니다. 분석은 약점도 짚는다. 정책 적응성은 91.3%에 그쳐, 훨씬 큰 GPT-OSS-Safeguard-20B의 94.1%에 미치지 못한다. 미스트랄 스스로도 아랍어와 인도네시아어에서 성능이 떨어지는 언어 커버리지의 한계, 그리고 적대적 입력에 대한 신뢰도 저하를 밝히고 있다.

짚고 넘어가야 할 점은, 이 모든 지표가 제조사 내부 평가에서 나왔다는 것이다. 현재까지 제3자의 독립 검증은 확인되지 않는다. 회사는 관리형 서비스의 가격을 제시하지 않고 가중치 직접 다운로드를 앞세웠다. 이 선택은 Shieldstral을 필터링을 자체적으로 운영하려는 쪽의 도구로 자리매김시킨다. 2026년 8월 2일부터 적용되기 시작한 AI 생성 콘텐츠에 관한 유럽의 의무를 생각하면 가볍지 않은 대목이지만, 미스트랄의 발표는 이 모델을 AI법과 명시적으로 연결하지는 않는다. 실제 운영 환경에서의 우회 시도에 대한 견고성, 그리고 이탈리아어를 포함한 언어별 점수에 관한 정보가 없다는 점은 시험 환경 밖에서의 실효성에 여전히 물음표를 남긴다.

— Olya